Sam Altman ซีอีโอของ OpenAI พูดคุยกับ Raza Habib ซีอีโอบริษัท Humanloop ถึงแผนการเปิดตัวบริการหรือฟีเจอร์ของบริการใหม่ๆ โดยระบุว่าฟีเจอร์หลายตัวล่าช้าออกไปเพราะปัญหา GPU ไม่เพียงพอที่จะให้บริการ เช่นฟีเจอร์อ่านภาพได้โดยตรงใน GPT-4 (multimodal) ต้องเลื่อนออกไปถึงปี 2024
แผนการเพิ่มฟีเจอร์ GPT-4 ในปีนี้ ได้แก่
- การเร่งความเร็ว GPT-4 และปรับราคาให้ถูกลง
- ขยายขนาด context ให้ใหญ่ขึ้น โดย Altman ระบุว่าน่าจะทำได้ถึงขนาด 100,000-1,000,000 token แต่หากใหญ่กว่านั้นต้องมีงานวิจัยที่ล้ำหน้าไปอีกขั้น
- เปิดให้ finetune โมเดล จากเดิมที่ GPT-3 เคยเปิดให้ลูกค้านำข้อมูลมา finetune ได้แต่ใน GPT-4 ยังไม่เปิด
- รองรับความจำ จากตอนนี้ที่ไคลเอนต์ต้องส่งประวัติการแชตกลับไปยัง OpenAI ทุกรอบ หลังจากนี้จะเปิดให้ OpenAI เป็นคนจำว่าเคยคุยอะไรเอาไว้ก่อนหน้า
ปัญหาชิปไม่เพียงพอ ทำให้ตอนนี้ OpenAI ต้องจำกัดลูกค้าที่ใช้งาน GPT-4 แบบ 32k context ไว้ก่อน และลูกค้าที่ขอซื้อคลัสเตอร์ส่วนตัวก็ถูกจำกัดไปด้วยเช่นกัน
ที่มา - Humanloop
Get latest news from Blognone
Follow @twitterapi
Comments
พวก GPU สำหรับงานพวกนี้ถ้าตกรุ่นแล้วมันจะไปไหนต่อครับ เพราะเห็นว่าไม่มีพอร์ทอะไรเลย แบบนี้คงมาขายในตลาดเกมหรือ workstation ไม่ได้แหง
I need healing.
เอาไป ขุด bitcoin ได้มั้ยครับ
นั่นสิ สงสัยต้องเอาไปรีไซเคิล
ถ้าโชคดี คงมีคนซื้อเหมาแล้วชำแหละเอา GPU และ Chip มาทำการ์ดจอราคาถูกมาขาย เหมือนการ์ด GTX10850Ti ปลอมที่ขายตาม Aliexpress หละมั้ง ถ้าดีหน่อยก็ขายตามสเป็คในราคามือสองก็อาจจะเป็นไปได้ ในไต้หวันกับจีนก็มีขายของยำรวมแบบนี้อยู่เรื่อยๆ แต่ไม่ค่อยเป็นที่รู้จักสักเท่าไหร่ และตลาดค่อนข้างเล็กด้วย
ความล้มเหลว คือจุดเริ่มต้นสู่ความหายนะ มีผลกระทบมากกว่าแค่เสียเงิน เวลา อนาคต และทรัพยากรที่เสียไป - จงอย่าล้มเหลว
จริงๆในตลาด Cloud มันก็ยังอยู่ให้คนเช่านะครับ อย่าง Tesla K80 ออกมาตั้งแต่ปี2014 ยีงมีให้เช่าใน GCP AWS Azure อยู่เลย.. ถ้าเป็นการ์ดตระกูล Tesla backward compatilibty ค่อนข้างนานมากครับเทียบกับ GeForce
Ps. ใครใช้ colab gpu free เจอ k80 เยอะมาก
ไม่น่าต่างจากตลาดตลาวป่่าว ใช้จนหมดอายุขัย
เหมือนการ์ดGPUขุดเหมืองรุ่นพิเศษบางรุ่นที่ไม่มีport video มั๊ง(Nvidia P106-100)
ตอนเหมืองแตกรอบก่อนเห็นคนขายนักเล่นเกมงบน้อยเอามาใช้เสริมกับการ์ดหลักได้ อย่างwin10มันแยกได้ว่าให้การ์ดใบไหนประมวลผลกับแอพไหน แต่displayภาพออกoutputการ์ดหลักได้ (ในทางกลับกันใช้ iGPU ประมวลผลเล่นเวบได้แต่เราต่อdisplayจากการ์ดจอแยกแทนได้)
ฝากบอก Sam Altman ผมขาย R9 280 ต่อถูกๆ แต่ยังไม่ได้เช็คนะ