资讯
5月22日消息，在21至22日召开的“首尔AI峰会”传来重要讯息，科技界巨擘微软、谷歌与OpenAI携手13家同行，共同立下誓言：将致力于AI模型的安全创新，并约定在面临不可控极端风险时，果断采取措施暂停高端系统运行，确保技术进步不失控。
参会的公司还包括国内企业智谱 AI（腾讯、阿里、美团和小米曾对其投资）、IBM、亚马逊、Meta 和三星。
安全承诺包括发布框架，阐明公司将如何衡量其模型的风险。在风险严重且“无法接受”的极端情况下，如果无法减轻风险，人工智能公司将不得不按下紧急停止开关，停止开发或部署其模型和系统。
这不是人工智能公司第一次做出听起来很高尚但不具约束力的安全承诺。亚马逊、谷歌、Meta 和微软在去年签署由美国政府促成的自愿保障措施，以确保他们的产品在发布时是安全的。
被誉为“人工智能教父”的计算机科学家约书亚·本吉奥对这些承诺表示欢迎，但他指出自愿承诺必须伴随监管。
文明上网，理性发言，共同做网络文明传播者