AI เชิงสร้างสรรค์ช่วยอำนวยความสะดวกในชีวิตประจำวัน แต่ขณะเดียวกันก็ถูกนำไปใช้ในทางที่ไม่เหมาะสม กลายเป็นเครื่องมือใหม่ในการทำร้ายเด็กและเยาวชน มีการพบว่าแพลตฟอร์มบางแห่งผสานเทคโนโลยีสลับใบหน้าด้วย AI กับฟังก์ชันที่เรียกว่า “ถอดเสื้อผ้าด้วยคลิกเดียว” เพียงอัปโหลดรูปภาพและชำระเงิน ก็สามารถสร้างภาพไม่เหมาะสมที่ดูสมจริงได้ แม้กระทั่งระบุบุคคลและสถานการณ์เฉพาะ ทำให้ผู้เยาว์ตกอยู่ในความเสี่ยง
แม้ภาพเหล่านี้จะเป็นภาพปลอม แต่เมื่อถูกเผยแพร่ ผลกระทบทางจิตใจก็รุนแรงไม่ต่างจากภาพจริง ผู้เสียหายอาจเผชิญความวิตกกังวล ความอับอาย และผลกระทบต่อชีวิตในโรงเรียนและความสัมพันธ์กับผู้อื่น
นอกจากนี้ การทำความรู้จักออนไลน์และการสนทนาผ่านวิดีโอยังเป็นแหล่งความเสี่ยงที่พบบ่อย กรณีล่าสุดแสดงให้เห็นว่าผู้ชายที่ขอความช่วยเหลือจากเหตุการณ์บันทึกวิดีโอเปลือยและการแบล็กเมลทางเพศมีจำนวนเพิ่มขึ้น หลายคนถูกชักชวนให้สนทนาวิดีโอส่วนตัว ถูกบันทึกโดยไม่รู้ตัว และถูกข่มขู่เรียกร้องเงินหรือเครดิตเกม แสดงให้เห็นว่าความเสี่ยงนี้ไม่ได้จำกัดอยู่เพียงเพศใดเพศหนึ่ง
ในการรับมือกับความเสี่ยงจาก AI และโลกออนไลน์ การพูดคุยและการดูแลใกล้ชิดมีประสิทธิภาพมากกว่าการห้ามเพียงอย่างเดียว ผู้ปกครองควรหารือกับบุตรหลานเกี่ยวกับพฤติกรรมการใช้อินเทอร์เน็ต สร้างข้อตกลงไม่อัปโหลดรูปส่วนตัวโดยไม่จำเป็น และไม่สนทนาวิดีโอส่วนตัว พร้อมย้ำว่า หากรู้สึกไม่ปลอดภัย สามารถขอความช่วยเหลือจากผู้ใหญ่ได้ทันที