OpenAI 执行长主动承认 AI 会脱序、须监管

在科技界引起广泛关注的OpenAI公司最近面临了一场关于AI监管的辩论。OpenAI公司的执行长奥特曼（Sam Altman）在最近的参院听证会上承认了人工智能系统（Artificial Intelligence System，简称AI）的潜在风险，并提出了建立一个监管机构的建议，以确保AI的安全性。

奥特曼表示，政府干预是减轻日益强大的AI系统风险的关键。他建议成立一个美国或全球监管机构，负责颁发许可证给强大的AI系统，并有权取消许可以确保符合安全标准。

这一提议反映了OpenAI公司对AI技术的担忧。奥特曼坦承，随著AI科技的进步，人们对AI将如何改变我们的生活方式感到焦虑，而OpenAI也有同感。他并未具体提及AI可能带来的具体问题，只是表示AI可能对世界造成重大伤害，如果出了问题，后果可能会很严重。

ChatGPT作为OpenAI公司的一个免费聊天机器人，自去年底发布以来一直受到广泛关注。最初，教育界担心ChatGPT可能被用来作弊，而现在人们担忧的范围已扩大到AI工具可能误导人类、传播谎言、侵犯智慧财产权以及颠覆某些工作领域。

面对这些担忧，欧洲立法者已经开始制定新的AI规范，美国机关也承诺打击违反公民权利和消费者保护法的有害AI产品。在这一过程中，OpenAI公司的执行长奥特曼以及其他科技公司的执行长被邀请到白宫进行讨论，以找到解决这些问题的方法。

参院司法委员会的一位主席，康乃狄克州民主党参议员布鲁曼索（Richard Blumenthal）在听证会中表示，AI公司应该在发布产品前测试其系统并披露已知风险。他特别担心未来AI系统可能对就业市场的稳定产生破坏性影响。对此，奥特曼基本上同意了这一观点，但他对未来工作的乐观态度更为强烈。

在这场听证会上，还有IBM的隐私信任长蒙哥马利（Christina Montgomery）和纽约大学名誉教授马库斯（Gary Marcus）受邀作证。马库斯和一群AI专家呼吁OpenAI等科技公司暂停研发更强大的AI模型，以便社会有更多时间来考虑相关风险。

来自密苏里州的共和党参议员霍利（Josh Hawley）表示，AI科技对选举、就业和国家安全具有重大影响，这次听证会是了解国会应该如何应对这些问题的关键第一步。

综上所述，OpenAI公司的奥特曼执行长在参院听证会上承认AI的潜在风险，并提出了建立监管机构的建议。这一提议引起了科技界的广泛讨论，并在政府和立法机构中引起了相应的关注。AI监管的议题已经成为当前科技爱好者关注的焦点之一，人们期待著对AI进行适当的监管和管理，以确保其安全和可靠性。