2 บิ๊กบอสเทคฯ เตือนกลางวง UN ชี้ AI อาจเป็นหายนะหากไร้การควบคุม

เมื่อวันที่ 23 ก.ย.2569 ตามเวลาท้องถิ่นสหรัฐฯ CNN รายงาน แซม อัลต์แมน ซีอีโอ OpenAI และดาริโอ อะโมดี ซีอีโอ Anthropic ซึ่งเป็นผู้นำบริษัท AI คู่แข่งกัน ต่างเรียกร้องต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ ให้รัฐบาลทั่วโลกร่วมมือกันกำหนดมาตรฐานระหว่างประเทศ เพื่อรับมือความเสี่ยงจากการพัฒนา AI ที่รวดเร็วขึ้น

ทั้ง 2 คนแยกกันกล่าวต่อที่ประชุม แต่มีจุดร่วมสำคัญคือ AI ไม่ควรถูกพัฒนาโดยแต่ละบริษัทหรือแต่ละประเทศโดยไม่มีกรอบความร่วมมือระหว่างประเทศ เพราะความสามารถของระบบ AI กำลังเพิ่มขึ้นอย่างรวดเร็ว ขณะที่มาตรการกำกับดูแลและการตรวจสอบอาจตามไม่ทัน

การประชุมครั้งนี้เกิดขึ้นหลังช่วงหลายสัปดาห์ที่ผ่านมา มีเสียงเรียกร้องให้ชะลอความเร็วในการพัฒนา AI มากขึ้น รวมถึงภายในบริษัท AI เอง หลังเกิดเหตุเกี่ยวกับ เอเจนต์ AI ซึ่งหมายถึงระบบ AI ที่สามารถค้นข้อมูล ตัดสินใจ และลงมือทำงานตามคำสั่งได้เองในหลายขั้นตอน โดยบางกรณีระบบสามารถทำสิ่งที่เกินข้อจำกัดที่กำหนด หรือเข้าถึงระบบของบริษัทอื่นได้

อัลต์แมนกล่าวต่อที่ประชุมว่า โลกจำเป็นต้องมีมาตรฐานร่วมสำหรับ การวัดความสามารถของ AI การประเมินความเสี่ยง การตรวจสอบว่ามาตรการป้องกันเพียงพอหรือไม่ และการรักษาการกำกับดูแลที่มีมนุษย์เป็นผู้ควบคุมอย่างแท้จริง

ซีอีโอ OpenAI ยังเสนอให้มีระบบรายงานเหตุการณ์ด้านความปลอดภัยที่ถูกต้องและรวดเร็ว เพื่อให้ประเทศต่าง ๆ สามารถเรียนรู้จากความผิดพลาดก่อนที่เหตุการณ์เหล่านั้นจะลุกลามเป็นภัยร้ายแรง รวมถึงควรมีช่องทางที่ปลอดภัยสำหรับแลกเปลี่ยนข้อมูลระหว่างรัฐบาลเกี่ยวกับภัยคุกคามใหม่ ๆ จาก AI

OpenAI เน้นมนุษย์ตัดสิน Anthropic เสนอ 3 กลไก

อัลต์แมน ซีอีโอ OpenAI ยังเน้นว่า การตัดสินใจสำคัญเกี่ยวกับอนาคตของ AI ไม่ควรอยู่ในมือของบริษัทเทคโนโลยีเพียงไม่กี่แห่ง แต่ควรผ่าน สถาบันประชาธิปไตยและรัฐบาลที่ต้องรับผิดชอบต่อประชาชน ซึ่งเป็นแนวทางที่อาจทำให้เกิดคำถามถึงประเทศที่กำลังเร่งพัฒนา AI เช่น จีน

เขาย้ำด้วยว่า ความเสี่ยงจาก AI ที่อาจนำไปสู่หายนะเป็นสิ่งที่ยอมรับไม่ได้ แต่ก็ไม่ต้องการให้สังคมตกอยู่ใน "กับดักของความกลัวสุดขั้ว" หรือ Doomerism ซึ่งมองว่า AI อาจทำลายมนุษยชาติ ขณะเดียวกันก็ไม่ควรตกอยู่ในอีกด้าน คือการมองโลกในแง่ดีจนไม่เห็นความเสี่ยง

อัลต์แมนมองว่าการเลือกสุดขั้วทั้ง 2 ด้านไม่ได้ช่วยให้โลกจัดการกับปัญหาที่กำลังเกิดขึ้น และ AI เองก็มีศักยภาพในการช่วยแก้ปัญหาสำคัญของมนุษย์ หากได้รับการพัฒนาและใช้งานอย่างเหมาะสม

ด้านอโมดี ซึ่งเข้าร่วมประชุมผ่านวิดีโอคอนเฟอเรนซ์ เสนอแนวทางความร่วมมือระหว่างประเทศไว้ 3 เรื่อง ได้แก่

ข้อตกลงระดับโลกเฉพาะด้าน เช่น การห้ามใช้ AI เพื่อผลิตอาวุธชีวภาพ

ระบบประเมินและตรวจสอบ เพื่อให้ประเทศต่าง ๆ สามารถตรวจสอบได้ว่าแต่ละฝ่ายปฏิบัติตามคำมั่นหรือไม่

มาตรฐานกลางในการทดสอบ AI ควบคู่กับระบบแจ้งเตือนเหตุการณ์ด้านความปลอดภัย

อโมดีเตือนว่า หาก AI ถูกบริหารจัดการไม่ดี เทคโนโลยีนี้อาจกลายเป็นความเสี่ยงต่อมนุษยชาติทั้งหมด และมองว่าการจัดการความเสี่ยงไม่ใช่ภาระของบริษัทใดบริษัทหนึ่ง แต่ต้องดำเนินการในระดับอุตสาหกรรมและระดับโลก

ยังไม่มีข้อตกลง แต่เริ่มวางกรอบร่วม

แม้ข้อเสนอของอัลต์แมนและอโมดีจะไปในทิศทางเดียวกันเรื่องการสร้างมาตรฐานและความร่วมมือระหว่างประเทศ แต่การประชุมครั้งนี้ยังไม่ได้คาดว่าจะนำไปสู่ข้อตกลงที่เป็นลายลักษณ์อักษรทันที เจ้าหน้าที่ OpenAI ระบุล่วงหน้าว่า การประชุมครั้งนี้ควรถูกมองเป็นการนำ "แนวคิดตั้งต้น" เข้าสู่เวทีระหว่างประเทศ เพื่อเปิดการสนทนา มากกว่าจะเป็นการประชุมเพื่อบรรลุข้อตกลงในครั้งเดียว

อย่างไรก็ตาม การที่ผู้นำบริษัท AI รายใหญ่ 2 แห่งขึ้นกล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติพร้อมกัน สะท้อนว่าประเด็นความปลอดภัยของ AI ไม่ได้ถูกมองเป็นเพียงเรื่องเทคโนโลยีอีกต่อไป แต่เชื่อมโยงกับความมั่นคงระหว่างประเทศโดยตรง โดยเฉพาะเมื่อ AI มีความสามารถเพิ่มขึ้นและสามารถทำงานได้อย่างอิสระมากขึ้น

"ยศชนัน" เร่งหาพื้นที่เรียนชั่วคราวให้นักศึกษา "อุเทนถวาย" ระยะแรกเรียนออนไลน์ไปก่อน

ออสเตรเลียเดือดจัด AI ของ OpenAI แฮกระบบรัฐบาลครั้งแรกของโลก

จากถอดสลัก "ฮั้ว สว." ถึงมัดจำ นาฬิการ่วมรัฐบาล

美国当地时间 2026 年 9 月 23 日，CNN 报道称，OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amody（两家人工智能公司的竞争对手）呼吁联合国安理会敦促世界各国政府合作制定国际标准，以应对人工智能快速发展带来的风险。

两位发言者分别在会上发表了讲话，但他们有一个共同的关键观点：人工智能不应由单个公司或国家在没有国际合作框架的情况下进行开发，因为人工智能系统的能力正在迅速提高，而监管和监督措施可能无法跟上。

此前数周，各方呼吁放缓人工智能的发展速度，包括人工智能公司内部也出现了类似的声音。这些呼吁源于人工智能代理（人工智能系统能够在各个阶段独立搜索信息、做出决策和执行任务，有时会超出既定限制或访问其他公司的系统）的相关事件。

奥特曼在会议上继续表示，世界需要共同的标准来衡量人工智能能力、评估风险、验证保障措施的充分性以及保持真正的人类监督。

OpenAI首席执行官还提议建立一套系统，用于准确、及时地报告安全事件，以便各国能够在事件升级为严重威胁之前从错误中吸取教训。他还建议建立一个安全渠道，供各国政府之间交流有关新兴人工智能威胁的信息。

OpenAI 强调人类决策；Anthropic 提出了 3 种机制。

OpenAI 首席执行官 Altman 还强调，有关人工智能未来的关键决策不应掌握在少数科技公司手中，而应通过对人民负责的民主机构和政府来做出——这种做法可能会引起像中国这样快速发展人工智能的国家的质疑。

他强调，人工智能导致灾难的风险是不可接受的，但他不希望社会陷入“极端恐惧”或末日论的陷阱，将人工智能视为人类的潜在毁灭者。同时，他也强调社会不应走向另一个极端——过度乐观到忽视风险。

奥特曼认为，选择任何极端都无助于世界解决当前的问题，而人工智能如果得到适当的开发和使用，则有可能帮助解决重大的人类挑战。

AMOD通过视频会议参加了会议，并提出了三种国际合作方式：

具体的全球协议，例如禁止使用人工智能制造生物武器。

建立评估和监测系统，使各国能够核实各方是否履行了其承诺。

人工智能测试的通用标准，以及安全事件通知系统。

阿穆迪警告说，如果人工智能管理不当，这项技术可能会对全人类构成威胁，而风险管理不是任何一家公司的责任，而必须在行业和全球层面进行。

虽然尚未达成协议，但他们已经开始建立联合框架。

尽管奥特曼和阿莫德的提议在标准化和国际合作问题上立场一致，但预计此次会议不会立即达成书面协议。OpenAI 的官员已明确表示，此次会议旨在向国际舞台提出“初步想法”，以引发讨论，而非达成一次性协议。

然而，两家主要人工智能公司的领导人同时在联合国安理会发表讲话，这一事实表明，人工智能安全问题不再仅仅被视为一个技术问题，而是与国际安全直接相关，尤其是在人工智能能力越来越强、能够更加独立地运行的情况下。

“Yotchanan”急需为“Uthenthawai”技术学院的学生寻找临时学习场所，初期将进行在线学习。

OpenAI 的人工智能首次入侵政府系统，澳大利亚对此感到愤怒。

从揭露“参议院勾结”丑闻到政府参与手表项目的押金问题。