让模型扫自家论文挑可解释线索

一家数学部门的预印本被自家模型扫了一遍。挑出四篇能给人工智能可解释性上课的文章，这筛选我看完先记四道题再掂可解释方法的盲区。记的掂的点在下面一层层摆，摆好了看四道，道在下面摆着。 四道题是这样对的。第一道叫敏感度分离，证明存在翻动单个比特几乎不起作用。翻动一组比特却改变一切的函数，可主流的可解释手法是一次只戳一个组件。正好漏掉这类结构。第二道数的是自由能，问的是能拟合同一批数据的权重设置有多少种。 后两道是这样摆的。第三道找重构的临界点，信号在噪声链条上被复制着往下传。传到哪一跳彻底死掉。这个问题原样搬给智能体就是信息能扛住几次消息转手。第四道是信息收缩的干净基线，证明加噪之后最好的一比特摘要就藏在原始的比特里。 点评两句。第一句是让模型扫自家论文挑可解释线索这活今年会变成标准动作，动作的标准是先筛后读。第二句是第三道那个跳数问题今年在智能体圈会越来越眼熟，眼熟的回来点赞，句号。 四篇在这 github.com/openai/math/bl… 这 github.com/openai/math/bl… 这 github.com/openai/math/bl… 这 github.com/openai/math/bl… ，翻完回来聊跳数，聊得动的点赞，句号。