Dengan pendekatan tersebut, Meta berupaya mencegah Meta AI memberikan respons yang dinilai tidak sesuai dengan usia pengguna remaja.
Dalam kondisi tertentu, Meta AI juga dapat menolak menjawab pertanyaan tertentu atau mengarahkan pengguna menuju sumber bantuan yang sesuai.
Menariknya, orang tua tetap dapat memperoleh informasi mengenai kategori topik yang ditanyakan remaja meskipun Meta AI tidak memberikan jawaban atas pertanyaan tersebut.
Meta Perkuat Perhatian terhadap Isu Sensitif
Meta juga menyatakan sedang mengembangkan perlindungan tambahan untuk percakapan yang berkaitan dengan isu sensitif.
Perusahaan tersebut sebelumnya mengumumkan rencana menghadirkan peringatan kepada orang tua apabila sistem mendeteksi upaya remaja membahas isu bunuh diri atau tindakan menyakiti diri dengan Meta AI.
Meta menyebut informasi lebih lanjut mengenai sistem peringatan tersebut akan disampaikan kemudian.
Selain insight mengenai penggunaan AI, fitur pengawasan yang telah tersedia juga mencakup kemampuan menetapkan batas waktu penggunaan, menjadwalkan waktu istirahat, serta melihat daftar teman yang berinteraksi dengan akun remaja dalam periode tertentu.
BACA JUGA:Meta Didesak Percepat Penonaktifan Akun Anak di Indonesia
Meta Bentuk AI Wellbeing Expert Council
Untuk memperkuat pengembangan fitur AI bagi remaja, Meta juga memperkenalkan AI Wellbeing Expert Council.
Dewan tersebut terdiri atas para ahli yang akan memberikan masukan secara berkelanjutan mengenai pengembangan pengalaman AI yang aman dan sesuai usia.
Menurut Meta, kerja sama dengan pakar bukan hal baru bagi perusahaan. Sebelumnya, Meta juga melibatkan ahli dalam berbagai bidang untuk membantu menyusun kebijakan maupun mengembangkan produk.
Para penasihat yang memiliki keahlian mengenai kesejahteraan remaja, citra tubuh, serta isu keselamatan lainnya akan turut memberikan masukan terhadap pengembangan pengalaman AI.
Meta Ingin Orang Tua Lebih Memahami Penggunaan AI Anak
Melalui fitur pengawasan baru tersebut, Meta ingin mengubah pendekatan pengawasan orang tua dari sekadar membatasi penggunaan teknologi menjadi upaya memahami bagaimana remaja memanfaatkan AI.