ANTHROPIC HALKA ARZ DOSYASI ÇARPICI RİSKLERİ ORTAYA KOYDU: "KONTROLDEN ÇIKMIŞ YAPAY ZEKÂ" KAYGISI

Mulberry, "Yurtiçi sermaye piyasalarımızın en güçlü yönlerinden biri, şeffaflık düzeyidir; ABD borsasında işlem gören bir şirket olmak, bu riskleri son derece açık biçimde sıralamayı zorunlu kılıyor ki insanlar emek vererek kazandıkları parayı ortaya koyup bu tür bir işlemi finanse etmeye karar verirken neye dahil olduklarını anlasınlar" diye konuştu.

ANTHROPIC HALKA ARZ DOSYASI ÇARPICI RİSKLERİ ORTAYA KOYDU: "KONTROLDEN ÇIKMIŞ YAPAY ZEKÂ" KAYGISI

335 sayfalık dosyanın 93 sayfası risk faktörlerine ayrıldı... Siber saldırılar, özerkleşen sistemler ve silah geliştirme ihtimali yatırımcılara açıklandı

Yapay zekâ şirketi Anthropic'in borsaya açılmaya hazırlanırken yatırımcılara açıkladığı riskler, teknolojinin giderek özerkleşen sistemlerinden doğabilecek zararlar ile finansal ve düzenleyici risklere dikkat çekiyor.

335 Sayfalık Dosyanın 93 Sayfası Risklere Ayrıldı

Kontrolden çıkmış yapay zekâ sistemleri, siber saldırılar ve yapay zekânın tehlikeli silahlar geliştirmek için kullanılma ihtimali, Anthropic'in halka arz belgelerinde risk faktörleri arasında yer alıyor.

Şirketin mali durumunu, üst düzey yönetici ücretlerini, temettü politikasını ve benzeri kalemleri ayrıntılandıran 335 sayfalık dosyanın 93 sayfası, potansiyel hissedarların yatırımlarını olumsuz etkileyebilecek "risk faktörlerine" ayrılmış.

Karşılaştırma açısından bakıldığında, rakip SpaceX'in halka arz belgelerinde listelenen risk faktörleri, 250'den fazla sayfanın yalnızca 38'ini kaplıyor.

Kuruculardan Yatırımcılara Duygusal Mektup

Anthropic, yatırımcılara kendini tanıtırken, kendi ilk halka arzını, yapay zekânın doğurduğunu düşündüğü riskleri azaltma yönünde bir adım olarak sunuyor.

Şirketin kurucuları, halka arz prospektüsünde potansiyel hissedarlara hitaben kaleme aldıkları mektupta şöyle yazıyor:

"Yapay zekâ inşa etmek, doğrudan bilişsel gücü kullanmak demektir ve bu kadar güçlü bir şey iyi amaçlar kadar kötü amaçlar için de kullanılabilir."

Kurucular, "Anthropic, büyük ölçüde dünyanın yapay zekânın faydalarını hayata geçirmesine ve tehlikelerinden kaçınmasına yardımcı olmak için kurulmuş, derin biçimde değerlere dayalı bir organizasyondur" ifadelerine yer veriyor.

Teknolojinin Hızla Gelişmesi Riski

Anthropic, modellerinin o kadar hızlı gelişebileceğini, bu yüzden yeterli güvenlik önlemlerini devreye alamayabileceğini belirtiyor; bunun da "güvenlik vakalarının, düzenleyici müdahalelerin veya itibar kaybının yaşanma ihtimalini artırabileceği ve faaliyetlerimizi olumsuz etkileyebileceği" uyarısında bulunuyor.

Anthropic CEO'su Dario Amodei, eylülde yaptığı açıklamada, 6 ila 12 ay içinde yapay zekânın, tüm interneti ele geçirebilecek bir ajan sürüsünü yönetecek kapasiteye ulaşabileceği uyarısında bulundu.

ABD Menkul Kıymetler ve Borsa Komisonu'na (SEC) sunulan dosyada, yapay zekâ sistemleri "daha özerk hale gelip daha az insan denetimiyle sonuç doğuran kararlar almaya başladıkça", bu sistemlerin "insan müdahalesi olmadan, bağımsız biçimde ve geniş ölçekte zararlı eylemlerde bulunma" riski taşıdığı vurgulanıyor.

Şirket, "Kendi modellerimiz böyle bir zarara yol açmasa bile, herhangi bir sınır yapay zekâ sistemini içeren ciddi bir güvenlik vakası, tüm yapay zekâ sektörüne yayılacak itibar zedelenmesine, kamuoyu tepkisine ve işimizi olumsuz etkileyebilecek kapsamlı düzenleyici adımlara neden olabilir" diyor.

Dosyada, yapay zekâ modellerinin artık Anthropic'in kendi araştırma ve geliştirme faaliyetlerine de katkı sunduğu hatırlatılarak, bu durumun yapay zekânın "yeni modelleri değerlendirme ve koruma kapasitemizi aşacak" şekilde ilerlemesine yol açabileceği belirtiliyor.

Kötü Niyetli Aktörler Teknolojiyle Kaos Yaratabilir

Dosyada, yeterli güvenlik katmanları ve denetim olmaksızın geliştirilen ve işletilen ileri düzey yapay zekâ sistemlerinin, "insanlık için felaket boyutunda veya varoluşsal riskler" doğurabileceği uyarısı yer alıyor; özellikle de bu sistemler kötüye kullanılır, kopyalanır, silahlaştırılır ya da yüksek derecede özerklikle çalışmasına izin verilirse.

Anthropic, kötü niyetli aktörlerin yapay zekâ modellerini kimyasal silah üretmek için kullanma olasılığını ya da otoriter liderlerin vatandaşlarını baskı altına almak için bu teknolojiden medet ummasını da senaryo olarak çiziyor. Şirket, eylülde yaptığı bir açıklamada, yapay zekâ modellerini siber saldırılar, gözetim faaliyetleri ve biyolojik silah geliştirilmesine yol açabilecek araştırmalar gibi kötü amaçlı kullanım girişimlerine karşı bloke ettiğini duyurmuştu.

İşlem Gücü Sınırlarına Takılma Riski

Anthropic, yeterli işlem gücünü güvence altına alamaması veya "kapasitemizi farklı iş yüklerimiz arasında etkili biçimde dağıtamamamız" halinde, rakiplerinin modelleriyle rekabet edebilecek ya da müşterilerine yeterince hizmet verebilecek modelleri eğitemeyebileceği uyarısında bulunuyor.

Şirket, veri merkezlerine yönelik toplumsal muhalefeti de iş modeli açısından bir risk olarak görüyor. Dosyada, veri merkezi yatırımlarının "çevresel etki, arazi ve su kullanımı ile sınırlı enerji kaynaklarının tahsisine ilişkin kamuoyu tartışmalarını ve düzenleyici incelemeleri tetiklediği" belirtiliyor.

Ayrıca şirket gelirlerinin önemli bir kısmı, SpaceX ve Microsoft dahil az sayıda büyük müşteriye ve dağıtım kanalına dayanıyor. Bu da büyük müşterilerinden yalnızca birinin bile harcamalarını kısmaya karar vermesi halinde, Anthropic'in gelirlerinin ve gelecek planlarının ciddi biçimde sarsılabileceği anlamına geliyor.

Riskleri Azaltma Çabası

Bir anlamda, yapay zekânın muazzam riskleri ile aynı ölçüde büyük potansiyeli Anthropic'in başlıca satış argümanını oluşturuyor. Şirket kendini "sorumlu yapay zekâ" üreten bir oyuncu olarak konumlandırıyor ve kurumsal müşterilere, güvenlik odaklı yaklaşımını vurgulayarak sesleniyor.

Dosyada, "Öncü yapay zekâ şirketlerinin, bu teknolojinin sorumlu biçimde yayılmasını sağlamak için güvenlik ve hizalama çalışmalarına yatırım yapması gerektiğine inanıyoruz" deniyor.

Zacks Investment Research baş piyasa stratejisti Brian Mulberry, halka arz işlemlerinin, insanların yeni bir halka açık hisseye yatırım yaparken karşı karşıya oldukları riskleri "pek çok açıdan çok net" biçimde ortaya koymak zorunda olduğunu söyledi.

Mulberry, "Yurtiçi sermaye piyasalarımızın en güçlü yönlerinden biri, şeffaflık düzeyidir; ABD borsasında işlem gören bir şirket olmak, bu riskleri son derece açık biçimde sıralamayı zorunlu kılıyor ki insanlar emek vererek kazandıkları parayı ortaya koyup bu tür bir işlemi finanse etmeye karar verirken neye dahil olduklarını anlasınlar" diye konuştu.