Yapay zeka şirketi Anthropic’in CEO’su ve kurucu ortağı Dario Amodei, yapay zekanın potansiyel risklerine dikkat çekti. Amodei’nin kişisel internet sitesinde yayımladığı yazıda, “süper zekaya” sahip yapay zekanın ortaya çıkması durumunda insanlığın karşılaşabileceği tehlikelere vurgu yapıldı.
Amodei, yazısında yapay zekanın kendini geliştirebilme yeteneğiyle birkaç yıl içinde ortaya çıkabileceğini ve bu durumun insanlığı köleleştirme ve kitlesel yıkıma sürükleyebileceğini belirtti. Yapay zeka destekli biyoterörizm, kötü niyetli yapay zekalar tarafından yönetilen drone orduları gibi senaryolar da ele alındı.
Yapay zekaya karşı çözüm önerileri arasında sektör içi denetimlerden ABD Anayasası’nda değişiklik yapılmasına kadar geniş bir yelpaze sunuldu.
Denemede eleştirilen bir konu ise yapay zekanın insan gibi ele alınması oldu. Amodei, yapay zekanın öz-kimlik geliştirebileceğini ve insan gibi karmaşık bir varlık olarak tasvir edilebileceğini dile getirdi. Ancak, bazı eleştirmenler bu yaklaşımın yapay zeka hakkındaki tartışmalı bir nokta olduğunu belirtiyor.
Uzmanlara göre, büyük dil modellerinin (LLM) duygusal veya gerçek empatiye sahip olmadığı ve sadece düşünme yanılsaması sunduğu ifade ediliyor. Bu nedenle, yapay zeka tartışmalarının somut sorunlara odaklanması gerektiği vurgulanıyor.
