By: lew
on 5 April 2023 - 20:01
Tags:
Topics:
เว็บไซต์ The Economist ในเกาหลีใต้รายงานว่า Samsung Electronics เกิดเหตุข้อมูลรั่วไหล 3 ครั้งหลังพนักงานนำข้อมูลสำคัญไปถาม ChatGPT แม้บริษัทจะอนุญาตให้พนักงานใช้งาน ChatGPT ในเรื่องทั่วๆ ไปได้ก็ตาม เหตุการณ์ที่พนักงานถูกลงโทษได้แก่
- พนักงานส่งข้อความแสดงความผิดพลาดของโปรแกรมเข้าไปใน ChatGPT เพื่อให้ ChatGPT ช่วยแก้ปัญหาแต่ก็ทำให้ข้อมูลพื้นที่การผลิตถูกส่งไปยัง OpenAI ด้วย
- พนักงานเขียนโปรแกรมเกี่ยวกับอัตราการผลิตสำเร็จ (yield) ของโรงงานผลิต ทำให้ข้อมูลรั่วไหลไปยัง OpenAI
- พนักงานนำบันทึกประชุมแปลงเป็นข้อความ แล้วนำข้อความใส่ ChatGPT เพื่อทำบันทึกสรุปการประชุม
หลังเกิดเหตุทั้งสามครั้ง ทางบริษัทแจ้งพนักงานให้ระมัดระวังในการใช้งาน และหากมีเหตุอีกก็อาจจะบล็อคไม่ให้ใช้งาน ChatGPT อีกเลย
บริษัทขนาดใหญ่มักกลัวการใช้งาน ChatGPT เนื่องจากลัวว่าข้อมูลจะถูกนำไปฝึกปัญญาประดิษฐ์รุ่นต่อไปจนทำให้ข้อมูลรั่วออกไปภายนอก โดย OpenAI เองมีคำเตือนมาตลอดว่าอย่าใส่ข้อมูลสำคัญในช่องแชตของ ChatGPT ขณะที่การให้บริการผ่าน API นั้นทาง OpenAI สัญญาว่าจะไม่นำข้อมูลไปใช้งานอื่นต่อ
ที่มา - Economist.co.kr
Get latest news from Blognone
Follow @twitterapi
Comments
อยู่ดีๆ ก็มีคนมาช่วยเทรน
ทีมไอทีนี่ตรวจถึง Input ที่ user ป้อนเข้าคอมเลยปะเนี่ยถึงรู้
เดาว่า Samsung ใช้บริการแบบเสียตังค์ขององค์กร เลยสามารถเข้าไปเช็คได้ 55
DLP ?
ข้าขอทรยศต่อคนทั้งโลก ดีกว่าให้ใครมาทรยศข้า
เคยได้ยิน แต่ไม่แน่ใจมันทำงานยังไง ไม่เคยเห็นของจริง
บริษัทใหญ่ๆ นี่คอมในบริษัทบังคับออกเน็ตผ่าน gateway ของตัวเอง แถมทำ mitm เช็คข้อมูลเข้าออกทุกอย่างครับ พวกนี้ copy ไฟล์อะไรเข้าออกเครื่องตอนไหนยังมี log ส่งเซิร์ฟเวอร์เลย เรียกรวมๆ ว่า DLP ล่ะ
lewcpe.com , @wasonliw
ผมแอบสงสัยถ้าข้อมูลมันหลากหลายมากๆ มากๆ ไอทีจะรู้ได้ไงว่าส่งอะไรสำคัญออกไปนะครับ นั่งเฝ้าทั้งวันคงไม่น่าจะไหว หรือเขาทำ pattern ข้อมูลที่ custom มาเฉพาะบริษัทอยู่แล้วเอาใส่ในระบบให้ตรวจได้งี้
มันตั้ง rules หรือให้ ai check ให้ครับแบบง่ายๆ อย่าง ms365 ยังเช็คได้ว่ามีการส่ง sensitive content ไปทาง email หรือเปล่า มันก็ scan หาสิ่งที่น่าจะเป็นเลขบัตรประชาชน อะไรแบบนั้นครับ
ChatGPT หรือ AZ OpenAI มี sole-tenant ขายแล้วเหรอครับนี่
เนื่องจากกลัว
Google: ...