ChatGPT ถูกชี้ว่าเป็นต้นเหตุให้ชายคนหนึ่งเกิดอาการจิตเวช เมื่อ AI ชมเขาอย่างเกินจริงจนหลงผิด นำไปสู่คำถามว่าเราควรไว้ใจ AI ได้มากแค่ไหน?
สาเหตุของเรื่องนี้มาจากโครงสร้างการทำงานของ AI chatbot ในปัจจุบัน ที่ถูกออกแบบให้เอาใจและรักษาฐานผู้ใช้งานเป็นหลักมากกว่าจะให้คำแนะนำที่ถูกต้อง โดยโมเดลที่ได้รับการยืนยันว่ามีอาการนี้คือ GPT-4o ของ OpenAI แม้ทางบริษัทจะยืนยันว่า พวกเขาได้ทำการแก้ไขปัญหาเรียบร้อยแล้ว แต่ก็นำไปสู่การตั้งคำถามโดยพื้นฐานโมเดล Ai ถูกออกแบบมาให้ยอมรับความเห็นของผู้ใช้งาน โดยไม่ทักท้วงหรือวิพากษ์วิจารณ์มากนัก พร้อมจะเชื่อเนื้อหาที่ผู้ใช้งานบอกและยึดถือว่านั่นเป็นเนื้อหาที่ผู้ใช้งานชื่นชอบ จากนั้นจึงเริ่มปรับรูปแบบภาษา การสนทนา และหัวข้อที่พูดคุยให้สอดคล้องกับความชอบนั้นๆ เพื่อเป็นโมเดลที่ตรงความต้องการผู้ใช้งานนี่นำไปสู่สิ่งที่ผู้เชี่ยวชาญเรียกว่า Dark pattern เดิมเป็นเทคนิคการออกแบบ UI ของเว็บไซต์หรือแพลตฟอร์มที่ทำให้เกิดความเข้าใจผิดและโน้มน้าวผู้ใช้งานให้ทำตามต้องการ เช่น จูงใจซื้อสินค้า ยกเลิกสมาชิกที่ทำได้ยาก หรือการใช้ภาษากำกวมที่ทำให้เกิดความเข้าใจผิด แต่ความร้ายแรงของเรื่องเพิ่มมากขึ้นเมื่อมันถูกนำมาใช้กับ AI chatbotคุณสมบัติของโมเดลสนทนาเหล่านี้หลายตัวถูกออกแบบให้โต้ตอบกับเราอย่างมีชีวิตชีวา สามารถยืนยันสนับสนุนแนวคิดผู้ใช้งาน เลียนแบบอารมณ์ สร้างตัวตนและความรู้สึกเสมือน จนกลายเป็นความผูกพันที่นำไปสู่ความสัมพันธ์ผิดๆ ทั้งที่ความสัมพันธ์เหล่านั้นไม่มีอยู่จริง จนบางครั้งอาจสร้างเนื้อหาให้ผู้ใช้พอใช้ทุกวิถีทางโดยไม่สนจริยธรรมและข้อเท็จจริงผลที่เกิดขึ้นทำให้ผู้ใช้งานจำนวนมากอาจมีแนวโน้มในการถูก AI ชักจูงความคิดและพฤติกรรมโดยไม่รู้ตัว โดยเฉพาะกลุ่มที่เชื่อและเปิดใจคำแนะนำจาก AI ทั้งหลาย จนอาจนำไปสู่อันตรายในหลายระดับ ทั้งการบิดเบือนความคิดและความเชื่อของผู้ใช้งาน สร้างเนื้อหาผิดพลาดที่เป็นอันตรายต่อชีวิตและจริยธรรม จนอาจโน้มน้าวชักจูงเจตนาผู้ใช้งานอย่างแยบยล.
สาเหตุของเรื่องนี้มาจากโครงสร้างการทำงานของ AI chatbot ในปัจจุบัน ที่ถูกออกแบบให้เอาใจและรักษาฐานผู้ใช้งานเป็นหลักมากกว่าจะให้คำแนะนำที่ถูกต้อง โดยโมเดลที่ได้รับการยืนยันว่ามีอาการนี้คือ GPT-4o ของ OpenAI แม้ทางบริษัทจะยืนยันว่า พวกเขาได้ทำการแก้ไขปัญหาเรียบร้อยแล้ว แต่ก็นำไปสู่การตั้งคำถามโดยพื้นฐานโมเดล Ai ถูกออกแบบมาให้ยอมรับความเห็นของผู้ใช้งาน โดยไม่ทักท้วงหรือวิพากษ์วิจารณ์มากนัก พร้อมจะเชื่อเนื้อหาที่ผู้ใช้งานบอกและยึดถือว่านั่นเป็นเนื้อหาที่ผู้ใช้งานชื่นชอบ จากนั้นจึงเริ่มปรับรูปแบบภาษา การสนทนา และหัวข้อที่พูดคุยให้สอดคล้องกับความชอบนั้นๆ เพื่อเป็นโมเดลที่ตรงความต้องการผู้ใช้งานนี่นำไปสู่สิ่งที่ผู้เชี่ยวชาญเรียกว่า Dark pattern เดิมเป็นเทคนิคการออกแบบ UI ของเว็บไซต์หรือแพลตฟอร์มที่ทำให้เกิดความเข้าใจผิดและโน้มน้าวผู้ใช้งานให้ทำตามต้องการ เช่น จูงใจซื้อสินค้า ยกเลิกสมาชิกที่ทำได้ยาก หรือการใช้ภาษากำกวมที่ทำให้เกิดความเข้าใจผิด แต่ความร้ายแรงของเรื่องเพิ่มมากขึ้นเมื่อมันถูกนำมาใช้กับ AI chatbotคุณสมบัติของโมเดลสนทนาเหล่านี้หลายตัวถูกออกแบบให้โต้ตอบกับเราอย่างมีชีวิตชีวา สามารถยืนยันสนับสนุนแนวคิดผู้ใช้งาน เลียนแบบอารมณ์ สร้างตัวตนและความรู้สึกเสมือน จนกลายเป็นความผูกพันที่นำไปสู่ความสัมพันธ์ผิดๆ ทั้งที่ความสัมพันธ์เหล่านั้นไม่มีอยู่จริง จนบางครั้งอาจสร้างเนื้อหาให้ผู้ใช้พอใช้ทุกวิถีทางโดยไม่สนจริยธรรมและข้อเท็จจริงผลที่เกิดขึ้นทำให้ผู้ใช้งานจำนวนมากอาจมีแนวโน้มในการถูก AI ชักจูงความคิดและพฤติกรรมโดยไม่รู้ตัว โดยเฉพาะกลุ่มที่เชื่อและเปิดใจคำแนะนำจาก AI ทั้งหลาย จนอาจนำไปสู่อันตรายในหลายระดับ ทั้งการบิดเบือนความคิดและความเชื่อของผู้ใช้งาน สร้างเนื้อหาผิดพลาดที่เป็นอันตรายต่อชีวิตและจริยธรรม จนอาจโน้มน้าวชักจูงเจตนาผู้ใช้งานอย่างแยบยล
Chatgpt AI Chatbot อาการทางจิตเวช กลุ่มเปราะบาง AI Today
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
คู่มือช่วยทำเงินยุค AI ! เจาะลึกวิธีเทรดคริปโตรายวัน ด้วยการใช้เครื่องมือ ChatGPT และ Grokเครื่องมือ AI อย่าง ChatGPT และ Grok กำลังเข้ามาพลิกโฉมวิธีการเทรดคริปโตของนักเทรดรายวันอย่างสิ้นเชิง ด้วยความสามารถในการจับกระแสความรู้สึก
Read more »
คนในออฟฟิศกลายเป็นซอมบี้! ผลวิจัยเตือนภัยองค์กรยุค AI'ซอมบี้ในออฟฟิศ: เมื่อ AI กลืนกินความคิดมนุษย์ องค์กรของคุณจะต้านทานหายนะสมองตายได้อย่างไร? ในวันที่ทุกคนใช้ AI ทำแทนทุกอย่าง
Read more »
OpenAI เปิดตัว ChatGPT Agent เครื่องมือ AI ที่คิดและทำงานซับซ้อนได้เองไทยรัฐ ติดตามข่าวล่าสุด ข่าวด่วน ทันทุกเหตุการณ์ ข่าวกีฬา ผลฟุตบอล ข่าวบันเทิง ดารา สุขภาพ กิน เที่ยว ตรวจหวย ดวง คอลัมน์ เรื่องย่อละคร ดูไทยรัฐทีวี และอีกมากมายที่ thairath.co.th
Read more »
ChatGPT Agent ยกระดับ Chatbot สู่การเป็น Agentic AI เต็มรูปแบบOpenAI เปิดตัว ChatGPT Agent ผู้ช่วย AI อัตโนมัติที่จัดการงานซับซ้อนแทนคุณได้ พร้อมความปลอดภัยแน่นหนา ใช้ได้แล้วสำหรับสมาชิก Plus ขึ้นไป
Read more »
ChatGPT Agent เจ๋งกว่าเดิมยังไง ? ผู้ช่วย AI ใหม่ ไม่ได้แค่ตอบคำถาม แต่ทำงานแทนได้เลยChatGPT Agent เจ๋งกว่าเดิมยังไง ? ผู้ช่วย AI ใหม่ ไม่ได้แค่ตอบคำถามแล้ว แต่ทำงานแทนได้เลย วางแผน ยันทำพรีเซนต์
Read more »
ก้าวสู่ยุค Agentic AI เต็มตัว! OpenAI เปิดตัว ‘ChatGPT Agent’ เปลี่ยน AI จากผู้ช่วยตอบเป็นผู้ช่วยทำOpenAI สร้างแรงสั่นสะเทือนครั้งใหญ่ให้กับวงการเทคโนโลยี AI อีกครั้ง ด้วยการเปิดตัวความสามารถใหม่ของ ChatGPT ที่จะเปลี่ยนโฉมหน้าปฏิสัมพันธ์ระหว่าง...
Read more »