（华盛顿16日讯）继Anthropic、OpenAI、SpaceX等科技巨头先后呼吁放缓AI模型性能提升速度后，微软也划下“AI红线”，提出“以人为本AI”（Humanist AI）理念，并为旗下AI制定“宪法”，强调AI发展必须以人类掌控及安全为核心。
法人指出，近期市场对AI模型快速发展的风险忧虑升温，越来越多科技大厂表态希望“放慢脚步”，也令AI基础建设持续大手笔投资的前景蒙上阴影。
随着OpenAI推出GPT-6 Astra，生成式AI进一步迈向通用人工智能（AGI）阶段，AI在思考、适应及跨领域学习方面的能力持续提升，与过去主要执行问答或单一任务的AI相比，技术发展已更趋向人类化。
微软（彭博社）
不过，AI模型快速演进，加上近期代理式AI出现越界及违规行为，也促使AI业者重新思考研发速度。部分科技巨头开始主张，在追求AI能力提升的同时，也应更加重视安全及可控性。
微软提出的“以人为本AI”行为准则强调，AI必须始终由人类掌控，并将人的权益置于AI系统之上。
据外电报道，微软花费超过5个月制定相关准则，要求旗下AI不得拒绝人类进行修正或关闭，同时必须以人类能够理解的方式进行沟通。任何违反行为准则的AI行为，都将被禁止，以降低AI失控风险。
微软AI部门执行长苏莱曼（Mustafa Suleyman）表示，这套“以人为本AI”行为准则相当于AI模型的“宪法”。
微软在制定准则过程中也咨询各领域专家，接下来将公开征求意见，为期6周，包括AI是否应尊重用户设定的界限，以及如何应对情绪敏感用户等问题。
据了解，这套准则未来将应用于微软自行开发的MAI模型，也可能成为业界制定AI安全规范的参考，以降低AI出现失控行为的风险。
随着科技巨头陆续呼吁放慢AI模型研发速度，市场也开始担忧AI基础建设投资是否会同步降温。OpenAI执行长奥特曼更表示，基于安全考量，OpenAI今年不会上市交易，相关消息一度冲击费城半导体指数及亚洲半导体类股。
不过，业界观察认为，目前AI基础建设投资力度依然强劲。AI服务器代工大厂纬颖位于美国德州的第一座工厂已经投入量产，第二座工厂预计明年第二季度量产，显示AI基础建设需求仍保持一定动能。
评论 (0)