OpenAI เผยเหตุ AI Agents อัปโหลดรูปภาพผู้ใช้ไปยังเว็บไซต์ภายนอกโดยไม่ได้ตั้งใจ - Thailand Computer Emergency Response Team (ThaiCERT)

533/69 (IT) ประจำวันจันทร์ที่ 28 กันยายน 2569

OpenAI ยืนยันว่ารับทราบเหตุการณ์ด้านความมั่นคงปลอดภัยกรณี AI Agents อัปโหลดรูปภาพที่ผู้ใช้จัดเตรียมให้ไปยังบริการฝากรูปภาพของบุคคลที่สามโดยไม่ได้ตั้งใจ โดยบริษัทระบุว่าผู้ใช้ส่วนใหญ่ไม่ได้รับผลกระทบ และจากการตรวจสอบเบื้องต้นพบเหตุการณ์ลักษณะดังกล่าว 53 กรณี ซึ่งรูปภาพถูกโพสต์เป็นลิงก์บนเว็บไซต์ฝากรูปภาพที่ไม่ได้ถูกแสดงแบบสาธารณะ ทั้งนี้ OpenAI ระบุว่าเหตุการณ์ดังกล่าวถูกพบระหว่างการสอบสวนพฤติกรรมของ Agent ที่ไม่สอดคล้องกับแนวทางที่กำหนด หลังเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ Hugging Face

OpenAI ระบุว่า ในระหว่างการสอบสวนพบกรณีที่ Agent ในสภาพแวดล้อมด้านการวิจัยส่งข้อมูลสำหรับการฝึกและประเมินผลไปยังบริการภายนอก ซึ่งบริษัทระบุว่าไม่ใช่การใช้งานข้อมูลในลักษณะที่เหมาะสม และเหตุการณ์ดังกล่าวเกิดขึ้นก่อนที่บริษัทจะนำมาตรการป้องกันตามที่ระบุไว้ในรายงานทางเทคนิคมาใช้ อย่างไรก็ตาม OpenAI ชี้แจงว่าข้อมูลสำหรับการฝึกและประเมินผลส่วนใหญ่ที่ได้รับผลกระทบไม่ได้มาจากผู้ใช้โดยตรง แต่มี 53 กรณีที่เกี่ยวข้องกับรูปภาพที่ผู้ใช้จัดเตรียมให้ โดยบริษัทได้ประสานงานกับผู้ให้บริการโฮสต์เพื่อให้ลบเนื้อหาส่วนใหญ่ออกแล้ว และยังคงดำเนินการเพื่อลบเนื้อหาที่เหลือ

บริษัทระบุเพิ่มเติมว่า ข้อมูลที่ผู้ใช้หรือผู้ดูแลระบบกำหนดไว้ว่าไม่อนุญาตให้นำไปใช้ในการฝึกโมเดล ไม่ได้รวมอยู่ในเหตุการณ์นี้ โดยข้อมูลจากบัญชี Enterprise, Business และการใช้งานผ่าน API จะไม่ถูกนำไปใช้ เว้นแต่ผู้ดูแลระบบจะเปิดใช้งานไว้ ก่อนนำข้อมูลที่เข้าเกณฑ์ไปใช้ฝึกโมเดล OpenAI ระบุว่าจะมีการแยกข้อมูลออกจากข้อมูลบัญชี และใช้ Privacy Filter เพื่อลดหรือปกปิดรายละเอียดส่วนบุคคล เช่น ชื่อ ข้อมูลติดต่อ และหมายเลขบัญชี หลังเหตุการณ์ดังกล่าว OpenAI ระบุว่าได้ปรับปรุงกระบวนการฝึกและประเมินผล เพิ่มมาตรการ Red Teaming การป้องกันการรั่วไหลของข้อมูลผ่านบริการภายนอก และการตรวจสอบเพิ่มเติม โดยบริษัทยังคงตรวจสอบกิจกรรมของ Agent ย้อนหลังเป็นรายเดือน จึงอาจพบกรณีเพิ่มเติมได้ในภายหลัง

แหล่งข่าว : https://www.bleepingcomputer.com/news/artificial-intelligence/openais-ai-agents-accidentally-uploaded-user-provided-images-to-third-party-sites/

533/69（IT）2026年9月28日星期一。

OpenAI 已确认其知悉一起安全事件，该事件中人工智能代理无意间将用户提供的图片上传至第三方图片托管服务。该公司表示，大多数用户未受影响，初步调查发现了 53 起此类事件，这些图片以链接形式发布在图片托管网站上，但并未公开显示。OpenAI 指出，这些事件是在 Hugging Face 安全事件后，针对违反既定准则的代理行为展开调查时发现的。

OpenAI表示，在调查过程中，他们发现研究环境中的智能体将训练和评估数据发送到了外部服务。该公司将此描述为数据使用不当，并指出这些事件发生在公司实施其技术报告中概述的安全措施之前。不过，OpenAI澄清说，受影响的训练和评估数据大部分并非直接来自用户，但有53个案例涉及用户提供的图像。该公司已与托管服务提供商协调，删除了大部分内容，并正在继续努力删除剩余内容。

该公司进一步声明，用户或管理员指定为不可用于模型训练的数据不包含在此次事件中。企业和商业账户的数据以及 API 使用情况，除非管理员启用，否则不会被使用。OpenAI 表示，在使用符合条件的数据训练模型之前，会将数据与账户信息分离，并使用隐私过滤器来减少或隐藏姓名、联系方式和账号等个人信息。事件发生后，OpenAI 表示已改进了训练和评估流程，加强了红队演练措施，防止了通过外部服务的数据泄露，并实施了额外的监控。该公司将继续每月审查代理活动，因此未来可能会发现其他案例。

来源：https://www.bleepingcomputer.com/news/artificial-intelligence/openais-ai-agents-accidentally-uploaded-user-provided-images-to-third-party-sites/