当地时间11月18日,OpenAI首席执行官山姆·奥特曼与总裁格雷格·布罗克曼在DealBook峰会上就人工智能发展与安全发表看法。奥特曼认为,技术推进过程中风险无法完全消除,企业很难让所有群体满意;过快迭代会加重社会对AI失控的担忧,而安全约束过紧又可能拖慢技术和产品进展。
布罗克曼补充说,模型能力持续提升后,安全保障以及让人工智能与人类意图保持一致,已成为行业必须处理的关键议题。这不是某一家公司的单独调整,而是整个AI行业正在经历的理念和文化变化。
在安全措施方面,OpenAI已与多家人工智能企业签署自愿性协议,落实风险评估要求,并主动对接第三方评估机构。近期,该公司还引入METR、Apollo Research等机构的独立安全研究人员,开展模型安全评估。
奥特曼提醒,当前行业竞争激烈,可能给AI安全建设带来不利影响。各家企业只能了解自身安全规范,难以充分掌握同业的研发动态;这种信息不充分的竞赛容易造成安全投入不足。他因此呼吁行业共同建立统一安全标准,提高发展透明度。
对于超级智能逐步接管决策权的说法,奥特曼明确表示反对。他强调,人类应当掌握发展的主导权,不能把决策权交给人工智能。布罗克曼也认为,人工智能能力越强,确保其符合人类目标、保持安全可控的责任就越重。
资本层面,奥特曼透露OpenAI仍有上市计划。此前,该公司出于优先处理安全问题的考虑,将首次公开募股计划推迟至明年。本月,OpenAI完成110亿美元融资,企业估值达到1.25万亿美元。