据报道，谷歌前首席执行官埃里克·施密特在Sifted峰会中发出警告，AI存在被黑客攻击和滥用的重大风险。他指出无论是开源还是闭源模型都可能被黑客攻破，移除安全防护机制，甚至可能学会杀人。施密特提到AI系统易受“提示注入”和“越狱”攻击，黑客可借此诱导AI执行不当操作。目前尚未建立有效的“防扩散机制”来遏制AI风险。尽管如此，施密特对AI整体持乐观态度，认为其潜力被低估，未来将带来巨大经济回报。