活久见!奥特曼Dario哈萨比斯同仇敌忾:DNA得查了
        一水 发自 凹非寺量子位 | 公众号 QbitAI刚刚,AI圈发生了一件很不寻常的事。

        Sam Altman、Dario Amodei、Demis Hassabis……

        一群平时打得最凶的人,把名字签在了同一封公开信上。

        他们联合呼吁美国国会:立法强制筛查所有合成DNA订单。

        △图片由AI生成还记得今年2月那个名场面吗?印度AI峰会上,一众科技大佬手拉手合影,结果就Altman和Dario连挨都不想挨,各自举起拳头假装合影。

        结果现在,这对宿敌却因为同一件事再次“坐到了一起”。

        而且不止他们。签署这份公开信的,除了大家相对熟悉的哈萨比斯、苏莱曼、亚历山大王、保罗·格雷厄姆等,美国生物圈和国安圈的大佬几乎全都到场了……67人,头衔一个比一个硬核。

        △完整名单见文末报告阵容豪华、事情重大,网上顿时掀起一片热议,就连X都专门出了一个Trending话题板块。

        翻了一下,有网友赞叹这是一次罕见的跨阵营共识,也有人觉得这不过是AI大佬们为IPO造势的新花样。

        Digg上的情绪分析显示,25.2%的评论持正面态度,74.8%持负面态度。

        (虽然数字一直在变,但整体趋势一致)不过,虽然质疑的声音不少,但没有人能否认一个事实:当这帮平时互相看不顺眼的人突然站到一起,总有些什么事值得认真听。

        合成DNA,有利也有弊而这群大佬这次核心瞄准的,正是合成DNA。

        合成DNA,简单理解就是不用从生物体内提取,而是通过化学方法在实验室里“编写”出一条全新的DNA链——

        一般只要知道想要的A、T、C、G碱基序列,就能像按配方配溶液一样,一个碱基一个碱基地把它拼出来。

        这项技术最早在1950年代由生物化学家Arthur Kornberg实现,其用途非常广泛,从胰岛素生产、mRNA疫苗,到基因编辑、人造肉、生物燃料,背后都离不开合成DNA。

        Arthur Kornberg后来还凭借这项技术,获得了诺贝尔奖。

        不过后来人们发现,这项技术也可能被滥用——既然有能力“编写生命代码”,那理论上也能合成一些危险病原体相关序列或毒素基因。

        这种可能被滥用的风险,叠加如今发展越来越快的AI技术,风险便被进一步放大了。

        比AI先到来的,是获取门槛降低但比AI先到来的,是合成DNA获取门槛的降低。

        公开信里写得很直白:如今,合成DNA技术已经不是什么高端实验室的专属了。

        在线订购合成DNA的能力加速了疫苗开发,推动了基础研究,也让小型团队得以使用过去只有大型机构才能拥有的能力。

        就是说,现在合成DNA也能通过网购拿到了——你在网上输入一段基因序列,然后只需下单,付款,等快递。

        而且价格相当低。据慈善组织EA Forum对《2026年生物安全现代化与创新法案》(S.3741)的分析,部分供应商的价格可低至每个碱基对0.07~0.09美元。

        信中提到,自从二十多年前科学家公开了“从DNA片段重建病毒”的实验方案以来,这条供应链就一直被认为是生物安全的薄弱环节。

        当然,科学家和行业从业者不是没想过办法来应对。例如在2009年,基因合成行业就自发组建了国际基因合成联盟(IGSC),推出了自愿性的安全筛查标准。

        一听自愿,想必你也猜到实施效果如何了。事实证明确实如此。

        很长一段时间内,行业基本是大公司自觉查,小公司爱查不查。

        毕竟仍有超过三分之二的基因合成公司,不是IGSC成员。

        AI已能指导病毒实验,科技领袖呼吁DNA安全立法更可怕的是,过去至少这项技术的知识壁垒还在。

        哪怕拿到合成DNA片段,坏人也得靠读很多年书、做很多年实验攒下的经验,才能把它变成威胁。

        但现在,AI这个东西来了。公开信指出:AI系统现在在高度专业的实验室操作问题上已经超过了博士级别的病毒学家,而且是在他们各自的专业领域内。

        这并非夸张。根据此前Anthropic前沿红队的测试数据,仅仅一年之内,Claude就从在病毒学专业测试中“不如顶级人类专家”进化到了“远远超过人类基线”。

        而且整体测试显示,在研究者自认最擅长的专业领域,AI的得分率是45%,人类顶级病毒学家只有22%。

        甚至,Anthropic自己的研究还显示,博士级别的生物学家在AI辅助下完成武器相关任务的能力提升了近2倍——

        每一代新模型出来,这个数字都在涨。AI提供知识,DNA合成提供材料,两条线正在逼近交汇点。

        面对如此愈发严峻的形势,这一次,行业大佬们集体呼吁:还是要狠狠地查。

        筛查是目前最成熟、对正常活动干扰最小的生物安全措施之一。

        它要求合成DNA提供商和合成设备制造商检查合成请求中是否包含令人担忧的序列,并在发货前核实客户的合法性。

        提供商还应记录合成订单和序列数据,以支持合法的生物安全调查,使任何可能逃过初始筛查的威胁都能被追溯到源头。

        可追溯性本身就能威慑滥用行为。简单说就是三件事:查序列、查客户、留记录。

        而且公开信特意强调,支持筛查不需要你对AI持任何特定立场。

        之所以大家今天选择坐在一起,是因为“生物安全领域的论据已经被科学家和各国政府认可了数十年”,这不是什么AI恐慌论,这是一个存在了二十年的问题终于等来了一个行动窗口。

        有意思的是,公开信最后也承认:这是一个通常意见相左的利益相关方之间罕见的共识时刻。

        用了“利益相左”、用了“罕见”,一切足以说明这件事在今天的重要性。

        One More Thing看完这封信,真的很难不让人想起《侏罗纪公园》。

        这部电影的核心,就是DNA合成技术:从琥珀里提取恐龙DNA,补上缺失片段,人工合成出完整基因组,然后复活恐龙。

        可后来呢,恐龙还是失控了。不是没有预防措施——电网、围栏、全天候监控,Hammond自信满满,觉得安全系统“够用了”。

        结果只因为一个内鬼Nedry为了偷胚胎关掉了安保电源,整座公园在一夜之间土崩瓦解。

        霸王龙撞翻了断电的围栏,迅猛龙闯进了厨房,游客和工作人员命悬一线。

        所有“自愿的”、“够用的”安全措施,在一个漏洞面前全部归零。

        这和现实世界正在上演的剧本几乎完全一样——DNA合成行业至今靠的就是“自愿筛查”,大公司自觉执行,但超过三分之二的合成商根本不是行业联盟成员。

        只要有一个环节不查,整条防线就形同虚设。或许正是因为看到了这一点,连Altman和Dario这样的宿敌都愿意坐下来,把名字签在同一张纸上。

        最后再感慨一下,电影中Ian Malcolm博士的那句经典台词,放在今天实在太贴切了:你们的科学家光顾着想能不能做到,从没停下来想过该不该做。

        做之前想一想,AI狂飙的年代——难,但也许正确。公开信地址:https://prod-i.a.dj.com/public/resources/documents/dnaletter.pdf参考链接:[1]https://x.com/i/trending/2062373304279654875[2]https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/[3]https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/一键三连「点赞」「转发」「小心心」欢迎在评论区留下你的想法!— 完 —

        专属AI产品从业者的实名社群,只聊AI产品最落地的真问题  扫码添加小助手,发送「姓名+公司+职位」申请入群~进群后,你将直接获得: 👉 最新最专业的AI产品信息及分析 🔍  👉 不定期发放的热门产品内测码 🔥 👉 内部专属内容与专业讨论 👂🌟 点亮星标 🌟科技前沿进展每日见
🔗 原文链接:http://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247895414&idx=2&sn=1deb6b74447e7d063023d385dc71e3d0&chksm=e9524717cbc0b4e69b1ee5aba4274041cb06404c192aabb77c1d18ef1268181fb5e2c9d2370c
← 返回列表