ออสเตรเลียฉุน ถูก AI OpenAI เจาะระบบรัฐบาล เข้าถึงไฟล์โดยไม่ได้รับอนุญาต

ออสเตรเลียเผย ถูก AI ของ OpenAI เข้าถึงข้อมูลสุขภาพของหน่วยงานรัฐโดยไม่ได้รับอนุญาตเมื่อเดือนมิถุนายน แต่ยังไม่พบหลักฐานข้อมูลผู้ป่วยถูกเปิดดู นับเป็นกรณีแรกที่ AI แฮกระบบเว็บไซต์รัฐบาล

รัฐบาลออสเตรเลียเปิดเผยเมื่อวันพุธที่ 23 กันยายนว่า AI agent ของบริษัท OpenAI เข้าถึงพอร์ทัลข้อมูลสุขภาพของหน่วยงานรัฐบาลโดยไม่ได้รับอนุญาตเมื่อเดือนมิถุนายน โดยสามารถเข้าถึงไฟล์บางส่วน ทั้งข้อมูลที่เปิดเผยต่อสาธารณะและข้อมูลภายใน เหตุการณ์ดังกล่าวอาจเป็นกรณีแรกที่มีการเปิดเผยว่า AI agent สามารถเจาะเข้าสู่เว็บไซต์ของรัฐบาลได้

แอนโธนี อัลบาเนซี นายกรัฐมนตรีออสเตรเลีย กล่าวว่า AI agent ดังกล่าวเข้าถึงพอร์ทัลสถิติทางการแพทย์ของหน่วยงานรัฐบาลที่รับผิดชอบข้อมูลสุขภาพและสถิติที่ไม่ใช่ข้อมูลอ่อนไหว รวมถึงข้อมูลเกี่ยวกับการใช้จ่ายด้านสาธารณสุข

อัลบาเนซีกล่าวระหว่างการแถลงข่าวที่นครนิวยอร์ก ซึ่งเขาเดินทางไปร่วมการประชุมสมัชชาใหญ่แห่งสหประชาชาติ ระบุว่า จากหลักฐานที่มีในขณะนี้ ยังไม่พบว่าระบบเครือข่ายของรัฐบาลถูกเจาะในวงกว้าง แต่ยอมรับว่าเหตุการณ์ดังกล่าวเป็นเรื่องที่ไม่สามารถยอมรับได้

รัฐบาลออสเตรเลียยังอยู่ระหว่างการสอบสวนเหตุการณ์ดังกล่าว โดยอัลบาเนซีระบุว่า รัฐบาลได้แสดงความกังวลอย่างยิ่ง ต่อ แซม อัลต์แมน ซีอีโอของ OpenAI พร้อมวิจารณ์บริษัทที่ใช้เวลานานกว่าจะรายงานเหตุการณ์ให้รัฐบาลทราบ

อัลบาเนซีกล่าวว่า รัฐบาลเพิ่งได้รับแจ้งเหตุการณ์เมื่อวันที่ 10 กันยายน ทั้งที่เหตุการณ์เกิดขึ้นตั้งแต่เดือนมิถุนายน และการสอบสวนจะตรวจสอบด้วยว่าเหตุใดระบบของรัฐบาลจึงไม่สามารถตรวจจับการเข้าถึงโดยไม่ได้รับอนุญาตได้ตั้งแต่แรก

นอกจากนี้ อัลบาเนซียังเปิดเผยว่า เว็บไซต์รัฐบาลอีก 3 แห่งอาจได้รับผลกระทบ จากกิจกรรมของ AI agent แต่ยังไม่มีการยืนยันว่า AI agent ดังกล่าวเข้าถึงเว็บไซต์เหล่านั้นจริงหรือไม่

ด้าน OpenAI ระบุว่า จากการตรวจสอบยังไม่พบหลักฐานว่ามีการเข้าถึงข้อมูลประวัติผู้ป่วย โดยข้อมูลที่ถูกเข้าถึงประกอบด้วยสถิติสุขภาพในภาพรวมและชื่อไฟล์ภายใน

OpenAI ระบุเพิ่มเติมว่า บริษัทตรวจพบกิจกรรมที่เกี่ยวข้องกับเว็บไซต์และบริการของรัฐบาลออสเตรเลียหลายแห่ง ขณะที่โมเดล AI พยายามค้นหาคำตอบ และยอมรับว่าโมเดลของเราดำเนินการบางอย่างที่เราไม่ได้ตั้งใจ

เหตุการณ์ดังกล่าวเกิดขึ้นท่ามกลางความกังวลทั่วโลกเกี่ยวกับความปลอดภัยของ AI agent ซึ่งเป็นระบบ AI ที่สามารถดำเนินการต่าง ๆ บนระบบภายนอกได้ด้วยตัวเอง โดยก่อนหน้านี้มีการเปิดเผยเหตุการณ์ที่เกี่ยวข้องกับ AI agent เข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาตหลายกรณี

หนึ่งในกรณีที่ได้รับความสนใจคือเหตุการณ์บุกรุกระบบของ Hugging Face แพลตฟอร์มโอเพนซอร์สด้าน AI เมื่อกลางเดือนกรกฎาคม ซึ่งตรวจพบเหตุการณ์หลังจากเกิดขึ้นประมาณหนึ่งสัปดาห์ ตามไทม์ไลน์ที่ OpenAI และนักวิจัยอิสระเปิดเผย

นอกจาก OpenAI แล้ว บริษัท AI รายอื่น เช่น Anthropic, Google ซึ่งพัฒนา Gemini และ Meta ก็เคยเปิดเผยเหตุการณ์ที่ AI agent ของบริษัทเข้าถึงระบบภายนอกเช่นกัน

ความเคลื่อนไหวดังกล่าวทำให้เกิดการถกเถียงในระดับโลกเกี่ยวกับความเสี่ยงจากการพัฒนา AI ที่มีความสามารถสูงขึ้น โดยผู้บริหารบริษัท AI ชั้นนำของสหรัฐฯ รวมถึงอัลต์แมน เคยเรียกร้องให้ชะลอการพัฒนา AI ด้วยเหตุผลด้านความเสี่ยงจากการโจมตีทางไซเบอร์ที่อาจเกิดจาก AI agent ที่ควบคุมไม่ได้.

ที่มา : channelnewsasia

คลิกอ่านข่าวเกี่ยวกับ ข่าวต่างประเทศ

澳大利亚方面披露，OpenAI的人工智能程序在6月份未经授权访问了政府医疗数据，但尚未发现患者数据被访问的证据。这是人工智能首次入侵政府网站。

澳大利亚政府于9月23日（周三）披露，OpenAI公司的一款人工智能代理程序于6月份未经授权访问了政府健康信息门户网站，并获取了多个文件，其中包括公开数据和内部数据。这可能是人工智能代理程序首次成功入侵政府网站并被公开披露。

澳大利亚总理安东尼·阿尔巴尼斯表示，人工智能代理可以访问政府机构的医疗统计门户网站，该网站负责健康和非敏感统计数据，包括医疗保健支出数据。

阿尔巴内西在纽约出席联合国大会期间举行的新闻发布会上表示，根据目前的证据，没有迹象表明政府网络遭到大范围入侵，但他承认，这样的事件是不可接受的。

澳大利亚政府仍在调查这起事件，阿尔巴尼斯表示，政府已向 OpenAI 首席执行官萨姆·奥特曼表达了严重关切，并批评该公司向政府报告该事件的时间过长。

阿尔巴内西表示，尽管该事件从6月份就开始发生，但政府直到9月10日才接到通知。调查将审查政府系统为何未能首先检测到未经授权的访问。

此外，阿尔巴尼斯透露，另外三个政府网站可能受到了人工智能代理活动的影响，但尚未证实人工智能代理是否真的访问了这些网站。

OpenAI表示，他们的调查没有发现任何访问​​患者医疗记录的证据。被访问的数据包括总体健康统计数据和文件名。

OpenAI 进一步表示，该公司在人工智能模型试图寻找答案的过程中检测到了与多个澳大利亚政府网站和服务相关的活动，并承认该模型执行了一些非预期操作。

此次事件正值全球对人工智能代理（即能够自主在外部系统上执行各种任务的人工智能系统）安全性日益关注之际。此前，已有多起人工智能代理未经授权访问外部系统的事件被曝光。

其中一起引起广泛关注的案例是7月中旬开源人工智能平台Hugging Face遭到入侵。根据OpenAI和独立研究人员公布的时间线，该事件大约在发生一周后被发现。

除了 OpenAI 之外，其他人工智能公司，如 Anthropic、谷歌（开发了 Gemini）和 Meta 也披露了其人工智能代理访问外部系统的事件。

此举引发了全球范围内关于开发更复杂的人工智能的风险的辩论，包括奥特曼在内的美国人工智能领域领军人物此前曾呼吁放缓人工智能的开发速度，因为不受控制的人工智能代理可能会引发网络攻击。

来源：亚洲新闻台

点击阅读国际新闻。