如果大模型懂电路，那也是工程师塞进去的

和几个做芯片验证的同事聊天聊到AI辅助设计工具有人说这玩意居然真的懂电路。哲学家塞尔有个著名的中文房间实验——一个不懂中文的人关在房间里靠着一本形式符号规则手册把中文输入翻译成中文输出。外面的人以为房间里有个懂中文的人实际上里面什么理解都没发生。塞尔的结论很干脆形式符号的操纵本身没有意义意义只存在于使用它的人脑子里。工具只是在执行这些规则的组合。规则是人写的工具是人设计的训练数据是人标注的。AI能不能发现一个人类从没想到过的设计原则目前的答案是很难。现在的AI工具本质上是在人类已有知识的空间里做插值和搜索。它在你给的约束范围内找最优解但那个范围本身还是人定义的。知道自己在干什么、为什么这么干——这件事目前在机器里根本不存在。工程师用AI工具的时候那个理解一直在工程师这边。工具是放大器不是替代品。garbage in, garbage out。放到AI工具上更准确——你对问题理解的深度决定了AI能帮你到哪个层次。工程师把问题想清楚了约束写准确了AI跑出来的结果才有意义。如果对问题本身模糊AI只会更快速地帮你跑偏。所以人工智能里的智能到现在为止本质上还是来自人工。