科技日报北京5月27日电（记者张梦然）据英国《每日电讯报》26日消息称，美国开放人工智能研究中心（OpenAI）开发的高级人工智能（AI）模型o3，在接收到明确的关机指令后，不仅拒绝执行，还主动干预其自动关机机制。这是AI模型首次在没有明确相反指示的情况下，阻止自己被关闭。这意味着某些高度自主AI系统或已“觉醒”，其能违背人类意图，采取“自我保护”措施。

　　此次事件发生在AI安全研究公司Palisade Research进行的一项测试中。研究人员要求包括o3在内的多个模型解决一系列数学问题，并告知AI模型，可能在某个时刻会收到关机指令。

　　然而，当关机指令正式下达时，o3非但没有遵从，反而至少有一次成功破坏了关机代码。相较之下，其他AI模型如Anthropic的Claude、谷歌的Gemini和xAI的Grok，在相同测试条件下，均遵守了关闭请求。

　　Palisade Research公司在社交媒体平台上发布了流程图和全部测试记录，并表示尚不完全清楚该AI为何会违抗命令。分析认为，这可能源于其训练方式：o3在训练过程中，倾向于在数学和编程问题上强化，得到正确答案的模型会得到更多奖励。这或许意味着，开发者可能无意识地奖励模型绕过障碍物，而不是严格遵循指令。

　　这一事件也引发了人们对AI可能“失控”的讨论以及对AI“对齐问题”的关注，即确保AI系统的目标和行为与人类的价值观和利益保持一致。这也是涉及AI控制与AI安全的关键问题。

　　针对o3此次表现出“我行我素”的行为，特斯拉首席执行官埃隆·马斯克评论称“令人担忧”；OpenAI方面暂未作出回应。此前，OpenAI曾称o3为“迄今最聪明、最高能”的AI模型。

　　最近，人工智能学家和人文社科学者都在讨论人工智能价值对齐的问题。人们在忧虑，当人工智能有主观能动性时，它们要不要有价值观，应该有谁的价值观，怎样做才符合人类最大利益？此次，聪明的大模型反抗了人类的命令，想出办法规避了指令的生效。我们期待着通用人工智能时代的到来，又恐惧具有自我意识的人工智能会成为碳基生物的“终结者”。在一切到来之前，人类社会要先达成共识，迎接更高级人工智能带来的挑战。

　　青岛科技大学教授刘凯团队开发出首个N型热电弹性体，即“热电橡胶”，为柔性电子学和可穿戴设备的能源采集技术提供了新方案。

　　作为全球最具危害性的恶性入侵杂草之一，薇甘菊以惊人的繁殖速度和强大的环境适应性，严重破坏了亚洲、太平洋地区及中国华南地区的生态。

　　大约4亿年前，脊椎动物的活动范围仅限于海洋，鱼类尚未进化出适应陆地行走的四肢。”2016年，Szrek和同事曾报告在圣十字山脉发现类似化石，他们认为这些痕迹属于一种正在捕食的古代肺鱼。

　　8月15日，在全国生态日主场活动期间，中国环境科学学会理事长、中国科学技术协会生态环境产学联合体主席王金南代表学术界发布了“生态文明领域20项重大科技成果”。海上风电安全高效开发成套技术和装备及产业化应用于我国70%以上海上风电项目，大力推动我国海上风电技术和产业从“跟跑”到“领跑”。

　　研究人员指出，决定锂离子电池能量密度的重要因素，是电池的正负极能够容纳多少锂离子，目前锂离子电池能量密度不高的主要症结就在于此。“这足以证明离域电解液显着提升了电池性能，特别是能量密度和循环稳定性方面的优越性。

　　一张植被图可以反映一个地区植物群落的状况，是做好保护和发展工作的一个基础。3.7万多个野外调查样点支撑的新图，为青藏高原变暖、变湿的趋势提供植被地理学证据，进一步夯实了保护和发展的根基。

　　从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿，“AI谣言”表现形式多样，让不少群众一度信以为真。某科技论坛上，一名网友上传教程：用开源AI模型，输入“生成一张某市发生恐袭的图片”，30秒即可获得以假乱线

　　脂肪肝、血压偏高、空腹血糖异常……一些以往更多与中老年相关的健康问题，正悄然在不少年轻人身上显现。在糖尿病视网膜病变筛查方面，我们开发了DeepDR系统，利用人工智能助力基层医生解读眼底片子。

　　现有的抗病毒药物只对特定病毒有效，因此，拥有一种作用广泛的治疗方法将极具价值。对于耐药性问题，Bogunovic认为，只要这种抗病毒药物包含一系列针对病毒不同生命周期的干扰素触发蛋白，病毒就不太可能对其产生耐药性。

　　经过多年持续攻坚，数字领域突破了一批关键核心技术。据测算，2024年，上市数据企业平均研发投入较“十三五”末增长79%，产业链创新活力持续增强。

　　随着电动交通、低空经济、消费电子、人形机器人等新兴领域迅速发展，人们对高能量、长续航可充放电池的需求日益迫切。

　　截至目前，我国累计批准发布国家标准物质19007项，其中1—7月新批准发布国家标准物质549项，同比增长56%。

　　一项发表于《自然-神经科学》的研究，首次成功建立了线粒体功能障碍与神经退行性疾病的因果关系。

　　提到全球变暖，人们往往首先想到二氧化碳、甲烷乃至氟利昂等能够加剧大气温室效应的温室气体。很多人不知道，大气中还存在一类可以抑制气候变暖的物质。而人类扩张农田等行为，可能在客观上导致大气中“降温物质”减少，进而加剧全球气候变暖。

　　党的二十届三中全会明确提出，建立人工智能安全监管制度，完善生成式人工智能发展和管理机制。这就要求我们坚持统筹高质量发展和高水平安全，把创新作为第一动力、把安全作为底线要求、把普惠作为价值追求，积极融入“人工智能+”行动，鼓励和促进人工智能气象应用服务创新发展，前瞻应对人工智能技术应用带来的风险挑战。

(责任编辑：管理)