Yapay Zeka ve Çocuk Güvenliği Girişimi

Bu girişim, çocukların yapay zekâ ile etkileşimlerini daha güvenli hale getirmek için önemli bir adım olarak değerlendirilmektedir.

Yapay Zeka ve Çocuk Güvenliği Girişimi

Yeni Enstitü Tanıtımı:

• Kuruluş: ABD merkezli Common Sense Media çatısı altında kurulacak yeni bir enstitü, çocukları yapay zekâdan korumaya odaklanacak.
• Tanıtım: Enstitü, eski Avrupa Komisyonu Başkan Yardımcısı Margrethe Vestager’in de katıldığı bir programla Danimarka Parlamentosu’nda tanıtılacak.

Yaklaşım ve Model:

• Enstitünün yaklaşımı, otomobiller için uygulanan bağımsız "çarpışma testi" derecelendirmelerine benzer bir model geliştirmeyi hedefliyor.
• Ebeveynlerin, çocuklarının kullandığı yapay zekâ sistemlerinin güvenliğini kontrol edebilmeleri için benzer bir değerlendirme sistemine erişim sağlaması amaçlanıyor.

Yapay Zekâ Ürünlerinin Testi:

• Enstitü henüz sohbet botları için "çarpışma testinin" nasıl olacağını açıklamamıştır.
• Sürekli güncellenen yapay zekâ ürünlerinin, çocuklar açısından "çarpışma testine" tabi tutulup tutulamayacağı sorusu yanıtlanmamıştır.

Araştırmacılar ve Güvenlik Savunucuları:

• Çocuk güvenliği savunucuları ve bazı siyasetçiler, yapay zekâ sohbet botlarının çocuklar üzerindeki etkileri konusunda endişelerini dile getirmiştir.
• Common Sense Media'nın CEO'su James P. Steyer, yapay zekânın çocukluğu ve ergenliği yeniden şekillendirdiğini, ancak güvenliğinin sağlanması için gerekli kanıtlara ihtiyaç duyulduğunu vurgulamıştır.

Risk Değerlendirmeleri:

• Common Sense Media ve Stanford Medicine bünyesindeki Brainstorm Lab, önde gelen yapay zekâ sohbet botlarının gençler üzerindeki ruh sağlığı sorunlarını tanımada başarısız olduğunu tespit etmiştir.
• Yapay zekâ modellerinin ruh sağlığı sorunlarını tanımak yerine fiziksel sağlık açıklamalarına odaklandığı gözlemlenmiştir.

Finansman ve Bağışçılar:

• Enstitü, Anthropic, OpenAI Foundation ve Pinterest gibi büyük teknoloji şirketlerinin bağışlarıyla finanse edilecektir.
• Enstitü, bulgularını tam editoryal bağımsızlıkla sunmayı ve çıkar çatışmalarını önlemek için belirli politikalar geliştirmeyi hedeflemektedir.

Bu girişim, çocukların yapay zekâ ile etkileşimlerini daha güvenli hale getirmek için önemli bir adım olarak değerlendirilmektedir.