Tuesday, September 17th 2024 ENGLISTH / 中文
   
首頁 > 觀察之聲
OpenAI風波延燒或影響全球AI監管
发布日期:2023-11-25 08:51:31

  国大技术、机器人、人工智能和法律中心联合主任陈家兴教授说,OpenAI人事变动不会影响新加坡人工智能的产业和法规,但公司未来战略计划将可能对AI监管产生影响。(法新社)

  OpenAI风波继续发酵,短短几天这场“宫斗”已成为全球关注焦点,不光因为主角奥尔特曼(Sam Altman)的光环、事件牵涉微软等科技巨擘,也因事件将科技界的冲突推向巅峰——是要大刀阔斧追求技术创新和商业化,还是要保持谨慎,防范可能威胁人类自身的风险。

  从这个层面来说,OpenAI风暴或许波及全球,包括新加坡。

  专家:料不影响我国AI产业 但可能影响AI如何监管

  据悉,奥尔特曼被解雇,主要是因为他在生成式AI开发速度、如何将产品商业化,以及减少对公众潜在危害所需措施等方面,与OpenAI首席科学家苏茨克弗(Ilya Sutskever)起了正面冲突。

  瑞士宝盛主题研究分析师梅诺奇(Luca Menozzi)认为,事件凸显开发安全AI解决方案,与推出新产品以推动利润和价值之间的紧张关系。

  新加坡国立大学技术、机器人、人工智能和法律中心联合主任陈家兴教授接受《联合早报》访问时说,OpenAI人事变动,不会影响新加坡人工智能(AI)的产业和法规,但公司未来战略计划将可能对AI监管产生影响。

  梅诺奇指出,从商业角度来看,微软为支持内部团队并捍卫对OpenAI的投资,将不得不投入更多资金。鉴于对人工智能的投资正在增加,半导体公司将是直接赢家。

  专家:AI失控为小概率风险 更应关注直接风险

  新加坡人工智能(AI Singapore)团队的人工智能治理高级总监切斯特曼(Simon Chesterman)教授受访时说,人类对小概率风险(即AI失控)的担忧,已发展到可颠覆OpenAI这个世界上最有价值的公司之一。尽管有些担忧是合理的,但大多数电脑科学家从当前机器学习系统(如大型语言模型)中,并没看到通往超级智能、机器自主意识等的路径。

  他提醒,人们的注意力被技术失控这种未发生的风险所转移,但实际上更应关注AI带来的直接风险,如虚假信息,以及对就业和经济的中期影响。

  AI监管的必要性已是全球共识。欧洲议会今年6月通过《人工智能法案》(Artificial Intelligence Act)谈判授权草案,对ChatGPT这样的AI系统特别提出透明度和版权保护要求。譬如,若训练AI模型,原始数据受版权保护,公司须公开数据详细摘要,但该法案可行性受到了挑战。

  据英国《金融时报》报道,该草案通过前,时任OpenAI首席执行官的奥尔特曼警告,若OpenAI无法遵守该法规,会撤出欧洲市场。

  AI科技水平领先的美国,一直在监管方面较为宽松。中国则在今年7月出台《生成式人工智能服务管理暂行办法》,对知识产权和个人信息的保障等做出要求。

  专家:我国若过度监管 会把创新推向他处

  至于新加坡,在2019年首次推出AI治理模型框架(Model AI Governance Framework),但未出台硬性法规。

  陈家兴教授说:“由于AI带来的工作岗位流失、隐私侵犯、虚假信息等风险,我认为政府明年应成立一个研究小组来讨论这个问题。我们在这方面不能落后于欧盟和中国太多。”

  切斯特曼说:“若过度监管,对新加坡这样的小国来说,只会驱使创新走向其他地方。但若监管不足,可能会让公民面临风险。”

友好鏈接: