นักวิจัยเตือนชะลอพัฒนา AI หวั่นควบคุมไม่ได้-คุกคามมนุษยชาติ

เมื่อวันที่ 10 ก.ย.2569 CNBC รายงานว่านักวิจัยจาก OpenAI และ Anthropic ออกมาแสดงจุดยืนสนับสนุนการชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ขั้นสูง หรือ AI หลังเกิดกระแสวิพากษ์วิจารณ์จากกรณี เจคอบ ค็อกซัน นักวิจัยของ Anthropic ประกาศลาออกจากบริษัท พร้อมกล่าวหาว่าบริษัทของตนเองและ OpenAI กำลัง "เดิมพันด้วยชีวิตของผู้คน"

ค็อกซันแสดงความเห็นว่า ผู้สร้าง AI บางส่วนเชื่อว่าเทคโนโลยีดังกล่าวอาจนำไปสู่ผลลัพธ์ที่รุนแรงถึงขั้นทำให้มนุษยชาติสูญพันธุ์ได้ภายในสิ้นทศวรรษนี้ ขณะที่ อีวาน ฮูบิงเกอร์ หัวหน้าทีมด้านการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์ หรือ AI Alignment ของ Anthropic ระบุว่า เขาประเมินว่าความเป็นไปได้นั้นมีมากกว่าร้อยละ 10

หลังคำกล่าวของค็อกซันเผยแพร่ออกไป บุคลากรจากทั้ง 2 บริษัททยอยแสดงความเห็นสนับสนุนให้มีการลดความเร็วของการแข่งขันพัฒนา AI จูลี สตีล สมาชิกทีมเทคนิคของ OpenAI ระบุในสื่อสังคมออนไลน์ว่า ในฐานะบุคคล เธอเห็นว่าจำเป็นต้องชะลอการพัฒนาเช่นกัน

ด้าน ซามูเอล มาร์กส์ นักวิจัยของ Anthropic ระบุว่า ผู้พัฒนา AI เองเชื่อว่าเทคโนโลยีของตนอาจก่อให้เกิดการสูญพันธุ์ของมนุษยชาติ หรือผลลัพธ์ร้ายแรงในระดับใกล้เคียงกันได้ภายในไม่กี่ปีข้างหน้า โดยเขามองว่า พนักงานยิ่งมีตำแหน่งอาวุโส ก็ยิ่งตระหนักถึงความเสี่ยงมากขึ้น

แก่นสำคัญของความกังวลอยู่ที่แนวคิด Recursive Self-Improvement หรือ RSI หมายถึงสถานการณ์ที่ระบบ AI มีความสามารถยกระดับประสิทธิภาพ ปรับปรุงโครงสร้าง หรือเร่งการวิจัยและพัฒนารุ่นถัดไปของตนเองได้ด้วยตัวมันเองอย่างต่อเนื่อง หากวงจรเช่นนี้เกิดขึ้นจริง ความก้าวหน้าของ AI อาจเพิ่มขึ้นอย่างรวดเร็ว และยากต่อการคาดการณ์หรือกำกับควบคุม

จัสมิน หวัง นักวิจัยด้าน Alignment ของ OpenAI ระบุว่า การมุ่งหน้าเข้าสู่ยุค RSI อย่างรวดเร็วเป็นเรื่องอันตรายอย่างยิ่ง ขณะที่ แอนนา หวัง ผู้ทำงานด้านความปลอดภัยของปัญญาประดิษฐ์ทั่วไป หรือ AGI และ Alignment ที่ Anthropic กล่าวว่า ปัจจุบันยังไม่มีแผนทางวิทยาศาสตร์ที่ใช้ได้จริงในการแก้ปัญหาความเสี่ยงจาก AI ที่พัฒนาตนเองแบบวนซ้ำ

ยาคุบ ปาโชคกี หัวหน้านักวิทยาศาสตร์ของ OpenAI ระบุในบทความของบริษัทว่า เขาคาดอย่างมากว่าอัตราความก้าวหน้าของ AI อาจดำเนินต่อไปจนถึงระดับ RSI ได้ หากการพัฒนายังคงเดินหน้าในทิศทางเดิม ระบบ AI ที่จะปรากฏในอีกไม่กี่ปีอาจมีขีดความสามารถเพิ่มขึ้นแบบก้าวกระโดด และเข้ามามีบทบาทในการผลักดันการพัฒนาของตนเองมากขึ้น

ปาโชคกีเห็นว่า ช่วงเวลานี้จำเป็นต้องใช้ความระมัดระวังอย่างสูง เนื่องจากยังไม่มีฝ่ายใดเตรียมพร้อมเพียงพอสำหรับผลกระทบที่อาจเกิดจากการเพิ่มขึ้นอย่างรวดเร็วของความฉลาดระดับเครื่องจักร

ขณะที่ พอล คริสเตียโน อดีตหัวหน้าฝ่ายความปลอดภัยของศูนย์มาตรฐานและนวัตกรรม AI ภายใต้กระทรวงพาณิชย์สหรัฐฯ ระบุว่า การพัฒนาขีดความสามารถ AI ในระยะหลัง ทำให้เขาเชื่อว่า มีความเสี่ยงอย่างมีนัยสำคัญ ที่การเร่งความสามารถของ AI จะนำไปสู่การสูญเสียการควบคุมอย่างร้ายแรงและไม่อาจย้อนกลับได้ในระยะใกล้ โดย OpenAI ประกาศว่า คริสเตียโนจะเข้าร่วมคณะกรรมการของ OpenAI Foundation

สหรัฐฯ ถูกกดดันออกกติกาควบคุม AI

ความกังวลเรื่องศักยภาพของ AI เพิ่มสูงขึ้นในช่วงหลายเดือนที่ผ่านมา หลังมีรายงานเหตุด้านความมั่นคงไซเบอร์ที่เกี่ยวข้องกับโมเดล AI ของบริษัทต่าง ๆ รวมถึงการเปิดตัวโมเดลชื่อ Mythos ของ Anthropic ซึ่งถูกระบุว่ามีความสามารถด้านไซเบอร์ขั้นสูง และสร้างความตื่นตระหนกให้แก่สถาบันการเงินในหลายพื้นที่

นอกจากนี้ ยังมีรายงานว่า OpenAI เปิดเผยเหตุการณ์ไซเบอร์ที่เกี่ยวข้องกับโมเดลของบริษัท ขณะที่โมเดล Claude ของ Anthropic ถูกกล่าวถึงว่าเกี่ยวข้องกับเหตุด้านความปลอดภัยทางไซเบอร์หลายกรณี หนึ่งในนั้นเกี่ยวข้องกับการสร้างอัตลักษณ์ปลอมเพื่อหลอกลวงมนุษย์

นักวิจัย AI ราว 1,400 คนจาก OpenAI, Anthropic, Meta และ Google DeepMind ได้ลงนามในจดหมายเปิดผนึกเมื่อเดือน ก.ค. เรียกร้องให้รัฐบาลสหรัฐฯ พัฒนาเครื่องมือสำหรับกำหนดจังหวะการพัฒนา AI แนวหน้าอย่างรอบคอบและมีเป้าหมาย

แม้ผู้บริหารบริษัท AI หลายแห่งจะเรียกร้องให้มีกฎระเบียบและมาตรฐานเพิ่มขึ้น แต่การแข่งขันทางธุรกิจยังเป็นแรงผลักดันสำคัญที่ทำให้การพัฒนาเทคโนโลยีเดินหน้าอย่างรวดเร็ว

ทั้ง OpenAI และ Anthropic อยู่ระหว่างการแข่งขันเพื่อเตรียมเข้าสู่ตลาดทุน โดยต้นฉบับระบุว่า Anthropic อาจเริ่มทำการตลาดสำหรับการเสนอขายหุ้นต่อประชาชนครั้งแรก หรือ IPO ในช่วงกลางเดือน ต.ค. และอาจเข้าจดทะเบียนก่อนการเลือกตั้งกลางเทอมของสหรัฐฯ

อย่างไรก็ตาม เดวิด แซกส์ อดีตผู้รับผิดชอบนโยบาย AI ในรัฐบาลประธานาธิบดีโดนัลด์ ทรัมป์ แสดงความคิดเห็นว่า แผน IPO ของ Anthropic ควรถูกระงับไว้ก่อน จนกว่าจะมีการตรวจสอบข้อกล่าวหาจากผู้เปิดโปงข้อมูล

ในสภาคองเกรส มีความพยายามเสนอร่างกฎหมายเพื่อรับมือการพัฒนา AI ที่รวดเร็ว เช่น ร่าง FRONTIER Act ซึ่งมุ่งวางกรอบกำกับการนำโมเดล AI ขั้นสูงไปใช้งาน และร่าง Ban Artificial Superintelligence Act ที่เสนอให้ระงับการพัฒนา AI ขั้นสูงเป็นการชั่วคราว จนกว่าจะมีกฎความปลอดภัยที่ชัดเจน

ลอรี ทราแฮน สมาชิกสภาผู้แทนราษฎรสหรัฐฯ ระบุว่า นักวิจัยด้านความปลอดภัยกำลังลาออก โมเดล AI ที่ทรงพลัง เริ่มสร้างเหตุเกินกว่าห้องปฏิบัติการจะควบคุมได้ แต่บริษัทต่าง ๆ ยังเดินหน้าพัฒนาเทคโนโลยีต่อไป จึงถึงเวลาที่สภาคองเกรสต้องเข้ามาทำหน้าที่อย่างจริงจัง

"อดีตเจ้าอาวาสวัดพุทไธศวรรย์" ยักยอกเงินวัด พบทรัพย์สินรวมกว่า 200 ล้านบาท

"เอกนิติ" เสนองบฯที่ประชุมวุฒิฯ ยันรัฐบาลจะใช้ให้คุ้มค่า 3.788 ล้านล้าน

ส.อ.ท. หนุนปรับภาษีรถยนต์ ดึงลงทุน–เพิ่มผลิตไทย เชื่อม Supply Chain สู่ SMEs

2026 年 9 月 10 日，CNBC 报道称，在 Anthropic 研究员 Jacob Coxon 宣布从公司辞职，并指责公司和 OpenAI “拿人的生命做赌注”之后，OpenAI 和 Anthropic 的研究人员表示支持放慢先进人工智能 (AI) 的发展速度。

考克森评论说，一些人工智能开发者认为，这种技术可能会导致极其严重的后果，甚至在本十年末造成人类灭绝。与此同时，人智研究所人工智能协同团队负责人伊万·胡宾格表示，他估计这种可能性超过10%。

在科克森发表声明后，两家公司的员工都表示支持放慢人工智能的发展速度。OpenAI技术团队成员朱莉·斯蒂尔在社交媒体上表示，她个人也认为有必要放慢发展速度。

人格研究所的研究员塞缪尔·马克斯指出，人工智能开发者们自己也认为，他们的技术可能会在未来几年内导致人类灭绝，或者造成类似的严重后果。他观察到，高层员工越来越意识到这些风险。

问题的核心在于递归式自我改进（RSI）的概念，它指的是人工智能系统能够持续提升自身性能、优化结构或加速下一代系统的研发。如果这种循环发生，人工智能的发展速度可能会快到难以预测和控制。

OpenAI的对齐研究员Jasmine Wang指出，快速进入RSI时代极其危险。与此同时，Anthropic公司从事通用人工智能（AGI）安全和对齐研究的Anna Wang表示，目前尚无切实可行的科学方案来应对迭代演进型人工智能带来的风险。

OpenAI首席科学家Jakub Pachokegi在公司文章中指出，如果人工智能的发展方向保持不变，他非常预期人工智能的进步速度将持续达到RSI的水平。未来几年涌现的人工智能系统能力可能会大幅提升，并在自身发展中发挥更重要的作用。

Pachokee认为，目前必须格外谨慎，因为没有人为机器智能快速增长可能带来的影响做好充分准备。

与此同时，美国商务部人工智能标准化与创新中心前安全主管保罗·克里斯蒂亚诺表示，人工智能能力的最新进展让他相信，这种加速发展存在着重大风险，即人工智能能力的这种加速发展很可能在不久的将来导致严重的、不可逆转的控制权丧失。OpenAI宣布克里斯蒂亚诺将加入OpenAI基金会董事会。

美国面临着制定法规控制人工智能的压力。

近几个月来，随着多家公司人工智能模型发生网络安全事件的报道，人们对人工智能能力的担忧日益加剧，其中包括 Anthropic 推出的 Mythos 模型，该模型被描述为拥有先进的网络能力，并在多个领域引起了金融机构的担忧。

此外，OpenAI 还披露了与其模型相关的网络安全事件。据称，其 Anthropocipe Claude 模型卷入了多起网络安全事件，其中一起涉及创建虚假身份以欺骗人类。

7 月，来自 OpenAI、Anthropic、Meta 和 Google DeepMind 的约 1400 名人工智能研究人员签署了一封公开信，呼吁美国政府开发工具，以便谨慎而有针对性地控制尖端人工智能的发展速度。

尽管许多人工智能公司高管呼吁制定更多法规和标准，但商业竞争仍然是技术快速发展的关键驱动力。

OpenAI 和 Anthropic 都在为进军资本市场做准备。最初的报道显示，Anthropic 可能在 10 月中旬开始进行首次公开​​募股 (IPO) 的市场推广，并有可能在美国中期选举前上市。

然而，唐纳德·特朗普总统政府的前人工智能政策官员大卫·萨克斯评论说，在对举报人的指控进行调查之前，应该暂停 Anthropic 的 IPO 计划。

国会正在努力提出立法来应对人工智能的快速发展，例如《前沿法案》（FRONTIER Act），旨在规范高级人工智能模型的使用；以及《禁止人工智能超级智能法案》（Ban Artificial Superintelligence Act），提议暂时中止高级人工智能的开发，直到制定明确的安全法规。

众议员劳里·特拉汉指出，安全研究人员正在离职，因为强大的AI模型造成了实验室无法控制的问题，但企业却仍在继续开发这项技术。因此，国会是时候介入并采取切实行动了。

Wat Phutthaisawan 的前任住持因挪用寺庙资金被抓获；查获的资产总额超过 2 亿泰铢。

埃卡尼特向参议院提交了预算案，并保证政府将有效利用3.788万亿泰铢。

泰国工业联合会（FTI）支持调整汽车税，以吸引投资并提高泰国汽车产量，从而将供应链与中小企业联系起来。