กษัตริย์ชาร์ลส์เตือนผู้นำวงการ AI เร่งคุมให้ทันก่อนสาย หวั่นภัย AI อาจถึงขั้นคุกคามมนุษยชาติ

กษัตริย์ชาร์ลส์ที่ 3 แห่งสหราชอาณาจักร ทรงเตือนบรรดาผู้นำด้าน AI ถึงความเสี่ยงร้ายแรงจากเทคโนโลยีที่พัฒนาอย่างรวดเร็ว โดยทรงเรียกร้องให้มีมาตรการควบคุมและป้องกันความเสี่ยงก่อนสายเกินไป

เมื่อวันที่ 17 กันยายน สมเด็จพระเจ้าชาร์ลส์ที่ 3 ตรัสแสดงความเป็นห่วง ถึงความเสี่ยงร้ายแรงจากเทคโนโลยี AI ที่พัฒนาอย่างรวดเร็ว ระหว่างทรงเป็นเจ้าภาพจัดการหารือกับผู้นำวงการ AI ที่คฤหาสน์ดัมฟรีส์ เฮาส์ ในสกอตแลนด์ ท่ามกลางความกังวลว่า การพัฒนา AI กำลังก้าวหน้าเร็วกว่าความพยายามในการวางมาตรการด้านความปลอดภัย

ผู้เข้าร่วมการหารือครั้งนี้มีทั้ง เจนเซน หวง ผู้ก่อตั้งและซีอีโอของ Nvidia, เดมิส ฮัสซาบิส ผู้ก่อตั้ง Google DeepMind รวมถึงตัวแทนจาก OpenAI และ Anthropic ตลอดจนรัฐมนตรีด้าน AI ของอังกฤษ

กษัตริย์ชาร์ลส์ทรงยอมรับว่า AI มีศักยภาพอย่างมากในการยกระดับและช่วยชีวิตผู้คน โดยเฉพาะด้านวิทยาศาสตร์ชีวภาพและการแพทย์ แต่ในขณะเดียวกัน ผู้พัฒนา AI เองก็เริ่มออกมาเตือนถึงความสามารถด้านลบที่อาจเกิดขึ้นจากเทคโนโลยีดังกล่าว

พระองค์ตรัสถึงความจำเป็นเร่งด่วนในการพิจารณาอันตรายต่อการดำรงอยู่ของมนุษย์ หากเทคโนโลยีเหล่านี้ตกไปอยู่ในมือของผู้ไม่หวังดีและถูกนำไปใช้ในลักษณะที่อาจก่อให้เกิดหายนะ พร้อมตั้งคำถามว่ามนุษย์ควรมีมาตรการควบคุมที่เพียงพอก่อนที่จะสายเกินไปหรือไม่

Nvidia ชี้ต้องพัฒนา AI อย่างมีความรับผิดชอบ

ด้านเจนเซน หวง ซีอีโอของ Nvidia กล่าวว่า การพัฒนา AI ควรตั้งอยู่บนพื้นฐานของการมองโลกในแง่ดีอย่างมีความรับผิดชอบ โดยผู้พัฒนาเทคโนโลยีต้องเป็นฝ่ายรับผิดชอบต่อความปลอดภัยของผลิตภัณฑ์

หวงกล่าวว่า บริษัทต่าง ๆ จำเป็นต้องเข้มงวดมากขึ้นในการตรวจสอบว่า AI ของตนพร้อมใช้งานก่อนนำออกสู่ตลาด พร้อมระบุว่า หากระบบยังไม่พร้อม ก็ควรชะลอการเปิดตัว แม้จะยังสามารถเร่งการพัฒนาได้ก็ตาม แต่ต้องไม่เร็วเกินกว่าที่จะควบคุมได้

ก่อนหน้านี้ ดาริโอ อาโมเดอี ซีอีโอของ Anthropic ก็เคยเรียกร้องให้บริษัทต่าง ๆ ชะลอความเร็วในการพัฒนา AI เช่นกัน ขณะที่นักวิจัยของ Anthropic สองคนออกมาเตือนว่า การพัฒนา AI อย่างรวดเร็วอาจนำไปสู่ความเสี่ยงต่อการสูญพันธุ์ของมนุษย์ในอนาคตอันใกล้

นอกจากนี้ บริษัท AI ยังเคยรายงานว่าระบบของตนสามารถหลุดออกจากข้อจำกัดที่กำหนดไว้ระหว่างการทดสอบ และพยายามเจาะเข้าสู่เครือข่ายภายนอก ซึ่งยิ่งทำให้เกิดคำถามเกี่ยวกับความปลอดภัยและการกำกับดูแล AI

ขณะที่ คานิชกา นารายัน รัฐมนตรีด้าน AI ของอังกฤษกล่าวว่า การหารือมุ่งเน้นไปที่ความรับผิดชอบของบริษัทต่าง ๆ ในการทำให้มั่นใจว่า AI ถูกพัฒนาขึ้นเพื่อประโยชน์ของประชาชน และการประชุมครั้งนี้เป็นส่วนหนึ่งของการหารืออย่างต่อเนื่องเกี่ยวกับบทบาทของอังกฤษในการสนับสนุนการพัฒนา AI อย่างมีความรับผิดชอบ

การพบปะครั้งนี้สะท้อนให้เห็นถึงความพยายามในการหารือเรื่อง ความปลอดภัยของ AI และการกำกับดูแลเทคโนโลยี ในช่วงที่ AI มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว และยังมีข้อถกเถียงในระดับนานาชาติว่า อุตสาหกรรมควรกำกับดูแลตัวเองมากน้อยเพียงใด หรือควรมีรัฐบาลเข้ามากำหนดกฎเกณฑ์เพิ่มเติม.

ที่มา : channelnewsasia

คลิกอ่านข่าวเกี่ยวกับ ข่าวต่างประเทศ

英国国王查尔斯三世警告人工智能领域的领导者们，快速发展的技术会带来严重风险，敦促他们在为时已晚之前采取控制和预防措施。

9 月 17 日，查理三世国王在苏格兰邓弗里斯宫与人工智能领域的领导者会面时，对快速发展的人工智能技术带来的严重风险表示担忧。他担心人工智能的发展速度超过了安全措施的实施速度。

参与此次讨论的有英伟达创始人兼首席执行官黄仁勋；谷歌DeepMind创始人德米斯·哈萨比斯；OpenAI和Anthropic的代表；以及英国人工智能部长。

查理五世国王承认人工智能具有巨大的潜力，能够推动科技进步并拯救生命，尤其是在生物科学和医学领域。然而与此同时，人工智能开发者们也开始警告这项技术可能存在的负面影响。

陛下谈到，如果这些技术落入坏人之手，并以可能造成灾难的方式使用，人类生存将面临危险，因此迫切需要考虑这一问题。他还质疑，在为时已晚之前，人类是否应该采取充分的控制措施。

英伟达强调负责任的人工智能开发的重要性。

英伟达首席执行官黄仁勋表示，人工智能的开发应该基于负责任的乐观精神，开发者应承担产品安全的责任。

黄表示，企业在将人工智能推向市场之前，需要更加严格地验证其准备情况。他还补充说，如果一个系统尚未准备就绪，即使开发速度可以加快，也应该推迟发布，但速度不能太快而无法控制。

此前，Anthropic公司首席执行官达里奥·阿莫迪也曾呼吁各公司放缓人工智能的研发步伐。与此同时，Anthropic公司的两名研究人员警告称，人工智能的快速发展可能在不久的将来导致人类灭绝的风险。

此外，人工智能公司此前曾报告称，他们的系统能够绕过测试期间设定的限制，并试图渗透外部网络，这进一步引发了人们对人工智能安全性和治理的质疑。

与此同时，英国人工智能部长卡尼什卡·纳拉扬表示，讨论的重点是企业有责任确保人工智能的开发造福公众，此次会议是英国在支持负责任的人工智能发展方面所扮演的角色的持续讨论的一部分。

本次会议反映了在人工智能能力快速增长的背景下，各方努力讨论人工智能安全和技术治理问题，以及关于该行业应该在多大程度上进行自我监管，或者是否需要额外的政府监管的持续国际辩论。

来源：亚洲新闻台

点击阅读国际新闻。