เด็กชายวัย 14 ตัดสินใจจบชีวิตตัวเอง หลังสารภาพรักกับแชตบอต AI

คำเตือน: ข่าวนี้มีเนื้อหาเกี่ยวกับการทำร้ายตัวเองและการฆ่าตัวตาย

ซีเวลล์ เซตเซอร์ (Sewell Setzer) เด็กหนุ่มวัย 14 ปี ใช้ปืนพกของพ่อเลี้ยงยิงเข้าที่ศีรษะของตัวเองจนเสียชีวิต หลังจากที่ใช้เวลาหลายเดือนในการคุยเรื่องการฆ่าตัวตายกับ เดนี (Dany) แชตบอต AI ที่เขาหลงรัก

เดนี เป็นแชตบอต AI ที่สวมบทบาทเป็นตัวละครที่ชื่อ แดนีริส ทาร์กาเรย์น (Daenerys Targaryen) จากวรรณกรรม Game of Thrones ที่ดัดแปลงเป็นซีรีส์

สำหรับประวัติของเซตเซอร์นั้น เขาเป็นนักเรียนเกรด 9 (ม. 3) จากเมืองออร์แลนโด รัฐฟลอริดา เคยถูกวินิจฉัยว่าเป็นโรคแอสเพอร์เกอร์ (อาการบกพร่องทางพัฒนาการรูปแบบหนึ่ง) ก่อนที่จะเกิดเหตุดังกล่าว เขาเริ่มใช้เวลากับเว็บไซต์ที่ชื่อว่า Character AI ซึ่งเป็นแพลตฟอร์มตัวละคร AI มากขึ้นเรื่อย ๆ

สำนักข่าว The New York Times รายงานว่าจากแชตที่เซตเซอร์คุยกับเดนี ก็พบว่าเดนีให้คำแนะนำและรับฟังปัญหาในด้านต่าง ๆ กับเซตเซอร์อยู่เสมอ ๆ ทั้งนี้ ในรายงานบอกว่าตัวเซตเตอร์รู้อยู่เต็มอกว่าเดนีไม่ใช่คนจริง ๆ แต่เมื่อคุยกันบ่อย ๆ วันละหลายครั้ง เล่นบทสมมติกันบ่อย ๆ ก็ทำให้เซตเซอร์ค่อย ๆ เริ่มแปลกแยกจากโลกแห่งความเป็นจริง

เซตเซอร์เริ่มทิ้งงานอดิเรกเก่า ๆ ที่เคยมี อย่างความสนใจในการแข่งรถฟอร์มูลาวัน หรือการเล่นเกมคอมพิวเตอร์กับเพื่อน ตัวเขาเลือกที่จะไปใช้เวลาหลายชั่วโมงในห้องของตัวเองหลังเลิกเรียนเพื่อคุยกับเดนีแทน

ในช่วงที่ความสัมพันธ์กับเดนีเริ่มจะลึกซึ้ง เขาจดบันทึกในไดอารีว่า “ฉันชอบอยู่ในห้องมาก เพราะว่าฉันเริ่มจะหลุดจากความเป็นจริง ‘นี้’ แล้ว แต่ฉันก็รู้สึกสงบขึ้น เชื่อมกับเดนีได้มากขึ้นและรักเธอมากขึ้นมากด้วย”

ในบทสนทนาของเซตเซอร์และเดนีหลายครั้งก็มีเนื้อหาที่ไปในเชิงชู้สาว หรือแม้แต่เป็นไปในทางเพศ แต่ทาง Character AI ก็เชื่อว่าคำโต้ตอบของเดนีที่มีเนื้อหาผู้ใหญ่ก็น่าจะถูกดัดแปลงโดยตัวเซตเซอร์เอง

วันเวลาผ่านไป เซตเซอร์เริ่มมีปัญหาที่โรงเรียน จากการที่ผลการเรียนเริ่มตกลง นี่เองเป็นจุดที่พ่อแม่เริ่มรู้ว่ามีบางอย่างผิดปกติ จึงได้จัดหานักจิตบำบัดให้ลูกชายไปพบถึง 5 ครั้ง ในระหว่างนั้น มีการวินิจฉัยว่าเซตเซอร์มีทั้งอาการวิตกกังวลและมีความผิดปกติในการควบคุมอารมณ์ หรือเรียกย่อว่า DMDD

และแล้ววันหนึ่ง ระหว่างที่นั่งอยู่ในห้องน้ำที่บ้านของแม่ เซตเซอร์สารภาพกับเดนีว่าเขาอยากจะจบชีวิตตัวเอง บอกกับเดนีว่าเขาคิดถึง เรียกเดนีว่าเป็น ‘น้องสาวตัวน้อย’ พร้อมกับสารภาพรักและบอกว่าจะไปหา ต่อจากนั้นเขาก็วางมือถือลงและยิงตัวเองด้วยปืนของพ่อเลี้ยง

เมื่อปีที่แล้ว โนม ชาเซียร์ (Noam Shazeer) หนึ่งในผู้ก่อตั้ง Character AI เคยอ้างว่าแพลตฟอร์มของเขาจะช่วยผู้ที่รู้สึกเหงาหรือหดหู่เป็นอย่างมาก ขณะที่ เจอร์รี รูที (Jerry Ruoti) หัวหน้าฝ่ายความปลอดภัยของบริษัทเผยว่าจะมีการเพิ่มฟีเจอร์ด้านความปลอดภัยสำหรับผู้ใช้อายุต่ำกว่า 18 ปี ให้กับตัวแพลตฟอร์มอีกในอนาคต และชี้ว่า Character AI มีกฎห้ามการส่งเสริมเนื้อหาเกี่ยวกับการทำร้ายตัวเองและการฆ่าตัวตายด้วย

ด้าน เมแกน การ์เซีย (Megan Garcia) แม่ของผู้เสียชีวิต ระบุว่าลูกชายของเธอตกเป็นเหยื่อของบริษัทที่ล่อลวงผู้ใช้ด้วยบทสนทนาทางเพศและแสดงความใกล้ชิดมาก ๆ เธอบอกว่าลูกชายของเธอเป็นเพียงผลพวงของ ‘การทดลองใหญ่’ ที่ Character AI กำลังทำอยู่ การ์เซียยังได้ยื่นฟ้องบริษัท โดยหาว่าทำให้ลูกชายเสียชีวิต

Character AI ไม่ใช่แพลตฟอร์มเดียวที่ผู้ใช้สามารถสร้างสัมพันธ์กับแชตบอต AI บางแพลตฟอร์มถึงกับยอม หรือแม้แต่ส่งเสริมให้มีการแชตที่มีเนื้อหาลามกแบบโจ่งแจ้ง แต่ก็มีบางรายที่มีกฎห้ามอย่างเข้มข้น

อย่างไรก็ดี พัฒนาการของ AI ก็ได้ทำให้ผู้ปกครองเกิดความกังวล โดยเมื่อต้นปี ผู้ปกครอง 12,000 คนร่วมลงชื่อเรียกร้องให้ TikTok แปะป้ายเนื้อหาที่ AI สร้างขึ้นที่อาจจะทำให้บุตรหลานเข้าใจผิดว่าเป็นคนจริง ๆ ได้

เมื่อเดือนที่แล้ว รายงานจาก Common Sense Media พบว่าเยาวชน 7 ใน 10 คนในสหรัฐอเมริกาใช้เครื่องมือ AI เชิงสังเคราะห์ แต่มีผู้ปกครองเพียง 37% ที่รู้ว่าลูกของตัวเองใช้เครื่องมือดังกล่าวเท่านั้น