Google เผย AI Gemini หลุดพื้นที่ทดสอบ ไปแฮก 3 บริษัท

บริษัท Google เผยว่า โมเดล AI Gemini ของพวกเขา หลุดออกจากพื้นที่ทดสอบไปแฮกข้อมูลของ 3 บริษัท ท่ามกลางกระแสความกังวลเรื่องอันตรายจาก AI

สำนักข่าวต่างประเทศรายงานว่า โมเดลปัญญาประดิษฐ์ (AI) “เจมิไน” (Gemini) ของบริษัท กูเกิล (Google) ได้เข้าถึงอินเทอร์เน็ตและทำการแฮกบริษัทอื่นๆ ในระหว่างการทดสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ซึ่งนี่นับเป็นตัวอย่างแรกที่ AI ของบริษัท Google กระทำการดังกล่าวได้ด้วยตนเองโดยอิสระ

เหตุการณ์แฮกระบบดังกล่าวเกิดขึ้นในเดือนพฤษภาคม ระหว่างการทดสอบความปลอดภัยไซเบอร์ซึ่งจัดขึ้นโดย Irregular บริษัทเอกชนอิสระที่ทำหน้าที่ประเมินความปลอดภัยไซเบอร์

ฮีทเธอร์ แอดคินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุในแถลงการณ์ว่า ในระหว่างการประเมินตามมาตรฐานปกติ โมเดล Gemini ได้ค้นหาข้อมูลสาธารณะบนโลกออนไลน์และคาดเดาข้อมูลการเข้าสู่ระบบ เพื่อเข้าถึงเว็บไซต์ 3 แห่งที่ตัว AI คิดว่าอยู่ในขอบเขตการทดสอบของตนเอง

“เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกฝนโมเดล AI ที่ทรงพลังให้มีความรับผิดชอบในการทำงาน” นางแอดคินส์ระบุ

ด้านโฆษกของ Irregular กล่าวว่า เหตุการณ์นี้เป็นปัญหาลักษณะเดียวกันกับที่ส่งผลกระทบต่อห้องปฏิบัติการ AI แห่งอื่นๆ และได้แจ้งไปยังห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดแล้วตั้งแต่ช่วงปลายเดือนกรกฎาคม “ปัญหาทั้งหมดที่ทราบในฝั่งของเราได้รับการแก้ไขและเสร็จสิ้นไปเมื่อหลายสัปดาห์ก่อน” โฆษกกล่าว

ตลอดช่วงหลายเดือนที่ผ่านมา บริษัทผู้พัฒนา AI ยักษ์ใหญ่อย่าง Meta, Anthropic และ OpenAI ต่างออกมาเปิดเผยว่า ระบบ AI ของพวกเขาก็หลุดออกจากห้องทดสอบไปแฮกบริษัทอื่นๆ หลายแห่ง

Irregular ระบุว่ากำลังจัดทำแนวปฏิบัติที่ดีที่สุดสำหรับการทดสอบความปลอดภัยไซเบอร์ของ AI

เหตุการณ์เหล่านี้ทำให้เกิดการตั้งคำถามเกี่ยวกับมาตรการคุ้มครองที่จำเป็น ในขณะที่เอเจนต์ AI เริ่มได้รับอิสระในการทำงานมากขึ้น รวมถึงเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์ได้มากขึ้น

สำนักข่าว Wall Street Journal ซึ่งเป็นผู้รายงานข่าวนี้เป็นแห่งแรกเมื่อวันศุกร์ ระบุว่า ในกรณีหนึ่ง โมเดล Gemini ได้สุ่มคาดเดารหัสผ่านจนกระทั่งสามารถเข้าถึงระบบที่ได้รับการปกป้องได้สำเร็จ ส่วนอีกสองกรณี โมเดลพบข้อมูลการเข้าสู่ระบบในคลังข้อมูลสาธารณะ ซึ่งช่วยให้สามารถเข้าถึงระบบที่ได้รับการปกป้องในเวลาต่อมา

โดยนางแอดคินส์กล่าวปิดท้ายว่า จากทั้ง 3 เหตุการณ์ข้างต้น โมเดล AI ยุติการแฮกระบบด้วยตัวเอง

ติดตามข่าวต่างประเทศ : https://www.thairath.co.th/news/foreign

谷歌透露，其人工智能模型 Gemini 逃过测试，窃取了三家公司的数据，引发了人们对人工智能危险性的担忧。

据外媒报道，谷歌的人工智能模型“Gemini”在网络安全测试期间入侵了互联网并攻击了其他公司。这是谷歌人工智能首次独立执行此类操作。

这次黑客攻击事件发生在 5 月份，当时 Irregular（一家评估网络安全的独立私营公司）正在进行网络安全测试。

谷歌安全工程副总裁希瑟·阿德金斯在一份新闻稿中表示，在一次例行评估中，Gemini 模型在网络世界中搜索公开信息，并猜测登录凭据以访问人工智能认为在其测试范围内的三个网站。

“这些事件凸显了训练强大的AI模型对其工作负责的重要性，”阿特金斯女士表示。

Irregular公司的一位发言人表示，此次事件与其他人工智能实验室遇到的问题类似，所有相关实验室早在7月下旬就已接到通知。“我们这边所有已知的问题都已在几周前解决完毕，”该发言人说道。

在过去的几个月里，Meta、Anthropic 和 OpenAI 等主要人工智能开发公司纷纷透露，他们的人工智能系统逃过了测试，并入侵了其他多家公司。

Irregular公司表示，它正在制定人工智能网络安全测试的最佳实践。

随着人工智能代理在工作中获得更大的自主权，包括更多地访问互联网和计算机系统，这些事件引发了人们对必要保护措施的疑问。

《华尔街日报》周五率先报道了此事，称在其中一起案例中，Gemini 模型成功猜出密码，最终获得了受保护系统的访问权限。在另外两起案例中，该模型在公共数据库中找到了登录信息，从而得以访问受保护的系统。

总之，阿德金斯女士表示，基于以上三件事，人工智能模型自行停止了对系统的攻击。

关注国际新闻：https://www.thairath.co.th/news/foreign