研究显示神经网络可解释性或被低估，AI「黑箱」难题迎新解法
研究称神经网络远比想象中更可解释
新闻正文
《经济学人》报道，针对人工智能安全领域长期存在的悲观情绪，有研究提出了相反的判断。业界普遍担心，支撑现代 AI 系统的神经网络结构过于复杂、难以参透，工程师即使理解了模型某个局部的运行方式，也未必能预测模型的整体行为。
但 Goodfire 的 Nick Cammarata 所做研究表明，神经网络的实际可解释性可能远高于此前的认知水平。如果这一结论成立，模型能力持续增强而人类理解力滞后的落差有望被部分弥补，模型出现意外失控的概率也会随之下降。
这一发现被视为近期人工智能可解释性研究的积极进展，被视为在「模型为何这样回答」这一问题上向前迈出的一步。
来源：《经济学人》科学与技术版块。 原文链接
相关新闻 【科技】分类下
