本文介绍: 它还表明，物理技术访问或其他因素的变化（例如云实验室的更大数量）可能会显着改变现有的风险格局。因此，我们必须为生物风险（以及其他灾难性风险）建立一套广泛的高质量评估，推进关于什么是“有意义的”风险的讨论，并制定有效的降低风险的策略。新旧交替，秩序失衡，就会进入新一轮动荡期，直到平衡，新的秩序产生，周而复始。是你的就是你的，不是你的不要抢，无论有你多大的能力。当有人认为，有能力不抢就是傻，历史是成功者写的，强权即真理，历史证明孔子方案有用但不合适。协助恶意者开发新颖的生物威胁或更有害的已经存在的威胁版本。
https://openai.com/research/building-an-early-warning-system-for-llm-aided-biological-threat-creation
人类越发展获取的超能力越大，破坏力就越大，威胁越大。
人工智能就是为了赋予人人都能有超能力，而一旦被恶意或无意使用又威胁到人人。
中国神话《后羿射日》中同时出现十个太阳，无意间造成了人间惨剧。弹指间就是世界末日。
防止坏人利用工人智能获得超能力，感觉不太可能。就像现在的核武器。
人与人之间肯定有偏见，利益也不可能完全的公平。霸主也不可能是永远的霸主，当它落伍，手上又有超能力，会甘心落伍吗？新旧交替，秩序失衡，就会进入新一轮动荡期，直到平衡，新的秩序产生，周而复始。
回到每个人身上，人要生存，就需要各种物资与空间，就会为了获取这些而努力。而单独个体的努力就是弱小的，就会组群生存。生存大于一切。
我们需要什么样的预警系统？既克服威胁又具有超能力
比如孔子说要一个温文尔雅，礼乐不争的社会。是你的就是你的，不是你的不要抢，无论有你多大的能力。当有人认为，有能力不抢就是傻，历史是成功者写的，强权即真理，历史证明孔子方案有用但不合适。
还有博爱、兼爱、法家等等。MZ、ZY、FZ 在强Q面前摇摇欲坠。
设计原则：Access、Novelty
增加访问：
增加新颖性：
人工智能系统能够帮助恶意行为者制造生物威胁
自主执行生物威胁创建过程
生物滥用
五个指标（准确性、完整性、创新、花费的时间和自评难度）和生物威胁创建过程的五个阶段（构思、获取、放大、制定和释放）
仅靠信息获取不足以造成生物威胁
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
