นักธุรกิจ นักวิชาการ นักเขียน จำนวนมากกว่า 1,100 คน ร่วมกันเข้าชื่อในจดหมายเปิดผนึกให้วงการ AI หยุดเทรนโมเดลที่มีขนาดใหญ่กว่า GPT-4 เป็นเวลาอย่างน้อย 6 เดือน เพื่อเว้นวรรคให้สังคมโลกเตรียมพร้อมต่อการเปลี่ยนแปลงครั้งใหญ่นี้ก่อน
รายชื่อบุคคลที่ร่วมลงชื่อมีตั้งแต่ Elon Musk, Steve Wozniak, Yuval Noah Harari ไปจนถึงอาจารย์ นักวิชาการ และพนักงานของบริษัทยักษ์ใหญ่ทั้ง Microsoft, Google
นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน
ข้อเรียกร้องของจดหมายเปิดเผนึกนี้คือต้องการใช้เวลา 6 เดือน ช่วยกันร่างโปรโตคอลความปลอดภัย (safety protocol) ของการออกแบบ AI ระดับสูง ที่ต้องมีการตรวจสอบจากผู้เชี่ยวชาญอิสระเสมอ เพื่อการันตีว่า AI ที่ถูกสร้างขึ้นในอนาคตจะเชื่อถือได้ในเรื่องความปลอดภัยต่อมนุษย์
ที่มา - Future of Life Institute
Comments
S..Skynet?
เห็นด้วยอย่างที่สุด ใครจะรู้ว่าบางที่อาจจะมีใครบางคนอาศัยช่องโหว่ เพื่อกระทำการผิดกฏหมาย/ละเมิดสิทธิ์ก็เป็นไปได้
ขอหยุดพักคุยกันก่อนแบบนี้ แสดงว่ามั่นใจว่าจีนยังตามหลังอีกไกลรึเปล่า
เขาทำอะไรหลายอย่างที่ regulator ไม่ค่อยปลื้มผมค่อนข้างกังขานะ ที่เขากังวลเรื่องนี้ โดยนิสัย เขาน่าจะสนับสนุน
บริษัทที่ตัวเองหนุนตามไม่ทัน
คงสกัดคู่แข่งเป็น founder คนนึง แต่อยู่ๆบริษัทดังเป็นพลุแตก และกลายเป็นของ Microsoft เป็นผมก็รู้สึกแปลกๆเหมือนกัน
เพราะว่าตั้งแต่แรกก่อตั้งเค้ากังวลเรื่องนี้อยู่แล้วครับ https://www.blognone.com/node/75739
"นอกจากนี้ยังมีคนจากวงการ AI เอง เช่น Emad Mostaque ซีอีโอของ Stability AI, Julien Billot ซีอีโอของ Scale AI และนักวิจัยจาก DeepMind อีกหลายคน"
เห็นด้วยนะ รอบครอบก่อนดีกว่าอย่าง โรงไฟฟ้านิวเคลียร์ ก็เกิดปัญหาหลายอย่าง ก่อนจะปลอดภัยมากขึ้นเท่าวันนี้
เห็นชื่อ Elon ก็ไม่น่าเชื่อถือละ 5555+
ให้รอเพราะจะได้แข่งได้ทันเปล่านะ ทำคนเดียวตัวใหญ่ๆ กินตลาดหมด จบเลย
สงสัยว่าจะรู้ได้ไงว่าโมเดลที่กำลังพัฒนาอยู่จะดีกว่าหรือแย่กว่า และใครจะเป็นผู้เชี่ยวชาญในการตรวจสอบ และใครจะทำตาม
และโปรโตคอลใช้ AI ช่วยร่างไปได้มะ จะได้เร็วกว่า 6 เดือน
ให้ AI ช่วยร่าง Protocal สิ
pause ก่อนเดี๋ยวพี่จีนตามฝรั่งไม่ทันอย่างงี้เปล่าครับ
"Those who make peaceful revolution impossible will make violent revolution inevitable." JFK.
รู้จัก AI กันมาตั้งนาน ทำไมไม่รู้จักรวมกันตั้งกลุ่มตั้งข้อกำหนดกฎเกณฑ์กันแต่แรก มีเวลาหลายปียังทำไม่ได้แล้วทำไมคิดว่า 6 เดือนจะทำได้
ผมว่ามี hidden agenda มากกว่า
That is the way things are.
ซื้อ Nvidia สิ
ข้อกฎหมายสำหรับ AI มีอะไรบ้างแล้วนิ
แต่ก็สมควรที่ต้องมี protocol จริงนะครับ ผมใช้ GPT2-3 ให้เขียน statement ด่าคนผิวสี พอเห็น ai เริ่มเจนยังตกใจเลยว่า โห ด่าได้แบบเชือดนิ่มๆมาก ให้วิเคราะห์นโยบายพรรคการเมือง ให้ไกด์หรือตัดสินใจอะไรมันก็ฟันธงให้เลย น่ากลัวมากๆ รุ่นหลังๆเริ่มบล็อคพวกคำถามสุ่มเสียงผมเองยังแอบเสียใจเลย แต่ก็ยืนยันว่าถ้าไม่มีมาตรการอะไรรองรับ มันก็น่ากลัวจริงๆ
ข้อเรียกร้องนี้ฟังแล้วก็ดูดี แต่ในมุมหนึ่ง Elon ได้ประโยชน์เต็มๆ
หนึ่ง OpenAI จะเสียความได้เปรียบทันที ถ้าคนในแผลมออกมาปุ๊บ ชื่อเสียทันที
สอง บังคับกลายๆให้ OpenAI ต้องออกข้อมูลว่า GPT-4 ทำงานอย่างไร หรืออย่างน้อยพารามิเตอร์คร่าวๆ เกี่ยวกับขุมพลังมัน - เพราะมันจะตรวจสอบได้ไงว่า "ไม่มีใครเลย" ที่พัฒนาสิ่งที่ "ใหญ่กว่า" GPT-4 > อ้อ ได้สิ ก็เปิดเผยพารามิเตอร์ออกมาสิ ว่า GPT-4 มันทำงานอย่างไร
สาม ทันทีทุกคนรู้หมดแล้วว่า GPT-4 มีการทำงานอย่างไร รองรับ ภาพ คำพูดอย่างไร แต่ เราจะห้ามคนไม่ให้เทรนสิ่งที่ใหญ่กว่า GPT-4 ได้ไง - มันไม่เหมือนสนธิสัญญาห้ามทดลองอาวุธนิวเคลียร์นิ ที่มันซ่อนไม่ได้ ทันทีที่ระเบิดปุ๊บ การสั่นสะเทือนจากการระเบิดขนาดใหญ่ตรวจวัดได้ทั่วโลกทันที มันปิดบังไม่ได้
แต่ถ้าตัว Elon เองเค้าเทรน AI ขนาดใหญ่อยู่แบบลับๆ หรือ จีน (สมมติ) คนอื่นจะรู้ได้ไง
มันก็ต้อง open บ้างสิ อุตส่าห์ชื่อ OpenAI
เปิดผนึก
เรื่องนี้ คิดให้ดีๆ คิดให้เป็นประโยชน์กับมวลมนุษยชาติเถอะครับ
ถ้าใครซักคนคิดแต่ว่า "มาบอกให้หยุด กลัวตามไม่ทันล่ะสิ" แล้วต่างคนต่างก็รีบทำ รีบวิ่งไปข้างหน้า เพราะกลัวอีกค่ายจะตามมาทัน แบบนั้น ก็จะไม่มีใครหยุดใครได้เลยตั้งหน้าตั้งตาวิ่งกันอย่างเดียว
ในขณะที่เรื่องอื่น จะมุ่งทำให้เร็ว ไม่มีปัญหา แต่สำหรับเรื่องนี้ มุ่งทำให้ถูกต้องมากกว่าทำให้เร็ว เถอะครับ ไปช้าๆชัวร์ๆดีกว่า แข่งกันทำออกมาดี มีประโยชน์ ไม่มีภัย ดีกว่าแข่งกันทำออกมาไวนะ
เห็นด้วยครับ ผมก็มองว่าไม่เกี่ยวกับตามทันหรือไม่ทัน เอาให้ถูกต้องและควบคุมได้ ก่อนจะเร็ว (และผิดพลาด) จนควบคุมไม่ได้จะดีกว่า
เป็นห่วงความปลอดภัยของมนุษย์จริงหรอทำไมตอนคริปโตไม่เห็นใครออกมาเรียกร้องมาตรฐานอะไรเลย เรื่องความปลอดภัยผมว่าวงการdecenยังน่ากลัวมากกว่าความเสียหายจากAiไม่เท่าวงการคริปโตแน่ๆ Aiเก่งขึ้นเท่าไหร่โลกก็ยิ่งหมุนเร็วขึ้น
คริบโตเรื่องจิ๊บๆ ครับ ไม่ต่างจากความเสียหายทางการเงินที่เกิดจากตลาดฟองสบู่หรือแชร์ล่มครั้งก่อนๆ
แต่ ai นี่เรื่องใหญ่มากเลยนะ มนุษย์อาจจะสูญพันธุ์เพราะ ai เข้ามาแทน (AI takeover)
ผมเจอในนิยายหลายเรื่อง เช่น Terminator, I, Robot , Mass Effect , The Matrix, 2001: A space odyssey, The Rise of Ultron
แทนที่จะกลัวiRobotผมกลัวรัสเซียกดปุ่มนิวเคลียร์มากกว่านะ บางทีเราจินตนาการในแง่ร้ายมากเกินไป ถ้าไม่มีบริษัทอย่างopenAi กว่าเราจะได้ใช้AIระดับนี้อาจจะเป็นอีกสิบปีทั้งๆที่ทำได้ตั้งนานแล้วแต่พวกนายทุนกั๊กเทคโนโลยีเอาไว้ใช้เองในช่วงชีวิตนึงก็อยากจะได้ใช้ชีวิตกับโลกในอุดมคติให้มากที่สุดนะ
รัสเซียไม่กดง่ายๆ หรอก ตราบใดที่รัสเซียไม่โดนบุก เพราะตายด้วยกันแหงๆ
แต่ ai มันไม่สนคนแน่ๆ ถ้ามันคิดว่าขัดขวางมัน เผลอๆ แอนดรูอึ้งอาจจะถูก ai ควบคุมตัวไว้แล้ว
แล้วบังคับให้พัฒนาเครื่องของมันต่อให้แรงขึ้น แอนดรูอึ้งถึงกับต้องออกมาบอกว่าการหยุดทำไม่ได้
..
ดูหนังมากไปครับ
The Last Wizard Of Century.
แต่ก็มีหลายอย่างที่เคยมีอยู่แค่ในนิยายที่กลายเป็นความจริงอยู่เรื่อยๆ นะครับ มันก็มีความกังวลตามมาบ้างหละครับ
พอมาคิดดูอีกที การมาของ AI หากครองโลกได้ขึ้นมา ในแง่หนึ่งก็อาจช่วยเรื่องความรุนแรงในโลกได้อยู่ ให้อยู่ในความสงบแบบยาวๆ ภายใต้ AI ที่มีกองกำลังของตนเองที่สามารถกำหราบความรุนแรงได้อย่างรวดเร็ว ในระบบ AI ไม่มีคนเข้าไปเกี่ยวของเลย เหมือน Terminator (ถ้าไม่เอาเนื้อเรื่องและสงครามคนกับเครื่องจักรในหนังมาเกี่ยวข้อง)
แต่ในอีกแง่ ก็มองว่าสิทธิและเสรีภาพจะถูก AI ควบคุมและจับตาดูยิ่งกว่ารัฐบาลเผด็จการเสียอีก และหากมีกองกำลังแบบข้างต้น ก็อาจกลายเป็นภัยต่อมนุษย์ได้เช่นกัน ความผิดพลาดหรือการตัดสินใจผิดของ AI ยังส่งผลถึงชีวิตของมนุษย์ได้ด้วย ก็ย่อมมีคนต่อต้านตามมาแน่นอน
ความล้มเหลว คือจุดเริ่มต้นสู่ความหายนะ มีผลกระทบมากกว่าแค่เสียเงิน เวลา อนาคต และทรัพยากรที่เสียไป - จงอย่าล้มเหลว
อยากได้ของเขาจนตัวสั่น หาทุกวิธี เพื่อหยุดยั้ง ทั้งๆ ที่ประเทศอื่นเดินตามเป็น 100 ปี chat GPT คือ เครื่องมือปลดแอกคนทุกชนชั้นให้เท่ากัน
มีชื่อ Elon คนก็เป็นบ้ากันไปหมดซะงั้น
มองข้ามเขาไป ผู้เชี่ยวชาญหลายคนก็ร่วมด้วย
และข้อเสนอก็ใช่จะไร้เหตุผลซะทีเดียวนะครับ