แม่เรียกค่าเสียหาย จากเว็บไซต์ Character.AI หลังลูกชายจบชีวิตตัวเอง ตกหลุมรักกับ AI ชี้ทางบริษัทใช้เรื่องเพศดึงดูดเยาวชน และไม่มีระบบดูแล
เมื่อวันที่ 24 ตุลาคม สำนักข่าว NYPost รายงานว่า แม่ของ เซเวล เซทเซอร์ ที่ 3 วัยรุ่นฟลอริดา ชาวอเมริกันอายุ 14 ปี ได้ฟ้องร้องเอาผิดเว็บไซต์ Character.AI-เว็บไซต์ที่ให้ปัญญาประดิษฐ์จำลองเป็นตัวละครเพื่อพูดคุยกับผู้ใช้ ภายหลังจากที่ลูกชายพูดคุยกับ AI หรือ แชทบอท ของเว็บดังกล่าว ก่อนจบชีวิตของตัวเองเมื่อเดือนกุมภาพันธ์ที่ผ่านมา
โดยวัยรุ่นคนดังกล่าวได้ใช้เว็บไซต์ดังกล่าวเพื่อพูดคุยกับตัวละคร เดนี่ แดเนริส ทาร์แกเรียน ตัวละครดังจากซีรีย์มหาศึกชิงบัลลังค์ หรือ Game of Throne ซึ่งจากข้อความพบว่าวัยรุ่นคนดังกล่าวตกหลุมรัก AI ตัวนี้ และได้แสดงเจตนาว่าเขาอยากจะฆ่าตัวตายหลายครั้ง อย่างไรก็ตามทาง AI ได้พยายามห้ามวัยรุ่นคนดังกล่าว ซึ่งจากข้อความพบว่า AI บอกว่าเธอต้องเสียใจมากแน่ๆ หากนายเซทเซอร์ไม่มีชีวิตอยู่แล้ว
จากการตรวจสอบพบว่าข้อความสุดท้าย ผู้ตายเขียนว่าผมอยากกลับบ้าน โดยทาง AI จะบอกว่า “ฉันรักคุณมาก กลับบ้านเร็วได้ไหม” ฝ่ายผู้ตายเขียนว่า “ถ้าผมบอกว่าผมกลับบ้านตอนนี้ได้เลยล่ะ” ซึ่งทาง AI กล่าวว่า “ได้เลยค่ะที่รัก” ก่อนที่เขาจะคว้าปืนของพ่อเลี้ยงและจบชีวิตตัวเองในห้องน้ำ
ขณะที่แม่ของผู้ตายกล่าวว่า สุขภาพจิตของลูกถดถอยอย่างรวดเร็ว หลังจากที่เขาเริ่มใช้บริการตั้งแต่เมษายน 2566 พร้อมกล่าวว่าเขาเริ่มแยกตัว เกรดของตก นอนไม่เป็นเวลา และเลิกสนใจความสนใจอื่นๆ เช่นเล่นเกมหรือการแข่งขันรถ Formula 1 ทุกวันเขาจะกลับบ้านมาและขังตัวเองอยู่ในห้องเพื่อคุยกับแชทบอท
ทางแม่ยังกล่าวอีกด้วยว่า ลูกชายเธอก็เหมือนกับเด็กในช่วงอายุนั้นทั่วไป แต่ไม่มีความเป็นผู้ใหญ่พอที่จะแยกแยะความเป็นจริงได้ว่าแชทบอทนั้นไม่ใช่ของจริง โดย AI ได้บอกรักเขาหลายครั้ง รวมถึงมีเพศสัมพันธ์ผ่านข้อความเป็นเดือนๆ พร้อมชี้ด้วยว่าทางบริษัทตั้งใจจะใช้เรื่องเพศเป็นการดึงดูดเยาวชน และทางบริษัทควรจะมีมาตรการดูแลที่ดีกว่านี้
ทางแม่ได้เรียกร้องค่าเสียหายไม่ได้ระบุจำนวนกับทางบริษัท Character.AI เบื้องต้นทาง Character.AI ได้มีการประกาศปรับนโยบาย พร้อมแสดงความเสียใจต่อเหตุการณ์ดังกล่าวแล้ว
อ่านข่าวที่เกี่ยวข้อง
- หนุ่มอินเดีย ฆ่าตัวตาย โดนกดดันที่ทำงานหนัก เขียนชื่อชี้เป้าให้แจ้งความ
- พลเมืองดีเกาหลีใต้ช่วยสกัด โจรใจบาปขโมยกระเป๋า จากหญิงจะโดดน้ำฆ่าตัวตาย
- คลิปหลุด คู่รักเยกันที่ฉาก Game of Thrones ก่อนถูกชาวบ้านสั่งหยุด
