Meta Lindungi Remaja dengan Karakter AI

Perlindungan untuk Remaja

Saat berbincang dengan para orang tua, Meta terus mendengar bahwa kekhawatiran mereka tentang penggunaan teknologi oleh anak remajanya terbagi dalam tiga kategori, yakni dengan siapa berinteraksi, jenis konten yang dilihat, dan apakah waktu mereka gunakan dengan baik.

Karena itu, Meta membangun Akun Remaja dengan mempertimbangkan tiga hal tersebut dan telah menerapkan kerangka kerja serupa untuk perlindungan remaja di seluruh interaksi AI, dan akan terus dikembangkan. Seperti yang diumumkan belum lam ini, Meta telah memperbarui pengalaman AI untuk remaja agar dipandu oleh peringkat PG-13 , yang berarti AI tidak boleh memberikan respons yang tidak sesuai usia yang akan terasa janggal dalam film PG-13.

“Kami telah mulai meluncurkan perubahan ini dalam bahasa Inggris di AS, Inggris, Kanada, dan Australia,” tutur Alexandr Wang.

Sementaara itu, perlindungan tambahan karakter AI meliputi:

1. Karakter AI dirancang untuk tidak terlibat dalam diskusi yang tidak sesuai usia tentang perilaku menyakiti diri sendiri, bunuh diri, atau gangguan makan dengan remaja, atau percakapan yang mendorong, mendukung, atau mendukung topik-topik tersebut.

AI Meta dirancang untuk merespons topik-topik tersebut dengan aman dan mengarahkan remaja, jika diperlukan, ke sumber daya atau dukungan ahli.

2. Remaja hanya dapat berinteraksi dengan sekelompok karakter AI terbatas, yang difokuskan pada topik yang sesuai usia, seperti pendidikan, olahraga, dan hobi, bukan romansa atau konten tidak pantas lainnya.

3. Orang tua dapat memantau apakah anak remajanya mengobrol dengan karakter AI dan menetapkan batas waktu penggunaan aplikasi, maksimal 15 menit per hari. Ini termasuk waktu yang dihabiskan untuk berbicara dengan AI.

Meta juga menyadari bahwa pengguna remaja mungkin mencoba mengakali perlindungan yang diterapkan.

Karena itu, Meta juga menggunakan teknologi AI untuk menempatkan remaja yang dicurigai ke dalam perlindungan, meskipun mereka mengatakan sebagai orang dewasa. (bdm)