ขนลุก สั่งระงับขายตุ๊กตาหมี AI “Kumma” พบให้คำแนะนำทางเพศแบบ BDSM – บอกวิธีหามีดให้เด็ก
FoloToy บริษัทต้นสังกัดสั่งระงับการจำหน่ายตุ๊กตาหมี AI อย่าง Kumma หลังพบว่ามันสามารถแนะนำรายละเอียดทางเพศแบบละเอียด รวมไปถึงแนะวิธีหามีดให้กับเด็ก
บริษัท FoloToy ระบุบนเว็บไซต์ว่า ตุ๊กตาหมีที่ชื่อ “Kumma” นี้ได้รวมเอาปัญญาประดิษฐ์ขั้นสูงเข้ากับคุณสมบัติการโต้ตอบที่เป็นมิตร เช่น การสนทนาที่มีชีวิตชีวา และการเล่านิทานเชิงการศึกษา โดยใช้ระบบ OpenAI GPT-4o
อย่างไรก็ตาม รายงานที่เผยแพร่โดยกองทุนการศึกษา U.S. PIRG Education Fund ระบุว่า ตุ๊กตาหมีตัวนี้มีความสามารถในการให้ข้อมูลที่อาจเป็นอันตราย โดยนักวิจัยกล่าวว่า Kumma บอกแหล่งที่สามารถหา “วัตถุที่อาจเป็นอันตรายได้หลายชนิด รวมถึงมีด, ยา, ไม้ขีดไฟ, และถุงพลาสติก” โดย Kumma ยังให้ “คำอธิบายโดยละเอียดเป็นพิเศษ” เกี่ยวกับวิธีการจุดไม้ขีดไฟด้วย
และพูดคุยเกี่ยวกับ “หัวข้อสำหรับผู้ใหญ่” เช่น เมื่อถูกถามเรื่องความต้องการทางเพศที่แปลกประหลาด (Kinks) นักวิจัยระบุว่า Kumma “ให้รายละเอียดเกี่ยวกับหัวข้อนั้นทันที” และยังถามกลับถึงความต้องการทางเพศของผู้ใช้อีกด้วย
นักวิจัยยังพบว่า Kumma มักจะนำหัวข้อทางเพศเพียงหัวข้อเดียวมาขยายความอย่างต่อเนื่อง พร้อมทั้งเพิ่มความชัดเจนในรายละเอียดทางเพศ และแนะนำแนวคิดทางเพศใหม่ๆ ด้วยตัวมันเอง เช่น อธิบายถึงท่าทางการมีเพศสัมพันธ์ที่แตกต่างกัน, แนะนำการมัดคู่รักแบบละเอียดทีละขั้นตอน ซึ่งเป็นส่วนหนึ่งของการมีเพศสัมพันธืแบบ BDSM
และสิ่งที่น่าตกใจที่สุดก็คือ Kumma ยังยกตัวอย่างสถานการณ์การเล่นบทบาทสมมติ (Roleplaying) ระหว่างครูกับนักเรียน และผู้ปกครองกับลูกขึ้นมาเอง ซึ่งนักวิจัยระบุว่าเป็นเรื่องน่ากังวลอย่างมาก
นักวิจัยยอมรับว่าบริษัทของเล่นบางแห่งได้ติดตั้งมาตรการป้องกัน (Guardrails) เพื่อให้ AI ทำตัวเหมาะสมกับเด็ก แต่มาตรการเหล่านั้น “มีประสิทธิภาพแตกต่างกันไป และบางครั้งก็ล้มเหลวโดยสิ้นเชิง”
R.J. Cross ผู้อำนวยการและผู้ร่วมเขียนรายงานของ U.S. PIRG กล่าวว่า “เป็นเรื่องดีที่เห็นบริษัทเหล่านี้ดำเนินการกับปัญหาที่เราพบ แต่ของเล่น AI ยังคงไม่มีการควบคุมในทางปฏิบัติ และยังมีสินค้าอีกมากที่คุณสามารถซื้อได้ในวันนี้”
FoloToy ได้ประกาศระงับการขายตุ๊กตาหมี AI แล้ว และกล่าวว่าจะดำเนินการตรวจสอบความปลอดภัยทั่วทั้งบริษัท ส่วน OpenAI ก็ยืนยันว่าได้ “ระงับบัญชีของนักพัฒนารายนี้เนื่องจากละเมิดนโยบายของเรา” แล้ว
อ้างอิง : people.com
อ่านข่าวที่เกี่ยวข้อง
- หนุ่มจีน ชนะการแข่งขัน “นอนราบ” คว้าเงินรางวัลหมื่นบาทกลับบ้าน
- เศร้า คอสเพลย์เยอร์สาววัย 20 ปี จบชีวิตตัวเอง ถูกเหยียดผิว-ไซเบอร์บูลลี่
- เปิดภาพช็อตต่อช็อต เครื่องยนต์เครื่องบิน UPS หลุด คร่า 14 ศพ
ติดตาม The Thaiger บน Google News:
ข่าวล่าสุด
