Anthropic, güçlü yapay zekanın toplumsal etkilerini ve yönetimini incelemek için Antropik Enstitüsü'nü kurdu
Güçlü yapay zekanın toplumlarımıza getireceği en önemli zorluklarla yüzleşmek için yeni bir çaba olan Antropik Enstitüsü'nü başlatıyoruz. Antropik Enstitü, çok daha güçlü yapay zeka sistemleri içeren bir dünyaya geçişimiz sırasında diğer araştırmacıların ve halkın kullanabileceği bilgiler sağlamak için Anthropic genelindeki araştırmalardan yararlanacak.
Anthropic'in başlangıcından bu yana geçen beş yıl içinde yapay zekanın gelişimi inanılmaz derecede hızlı ilerledi. İlk ticari modelimizi piyasaya sürmemiz iki yılımızı aldı; ciddi siber güvenlik açıklarını keşfedebilecek, çok çeşitli gerçek işleri üstlenebilecek ve hatta yapay zeka gelişiminin hızını artırmaya başlayabilecek modeller geliştirmek yalnızca üç yılımızı aldı.
Önümüzdeki iki yıl içinde çok daha dramatik gelişmelerin yaşanacağını öngörüyoruz. Şirketimizin temel inançlarından biri, yapay zeka gelişiminin hızlandığıdır: Yaptığımız iyileştirmeler zamanla artmaktadır. Bu nedenle, CEO'muz Dario Amodei'nin Machines of Loving Grace'de tanımladığı türden son derece güçlü yapay zeka, birçok kişinin düşündüğünden çok daha erken geliyor.
Eğer bu doğruysa, toplum kısa sürede birçok büyük zorlukla yüzleşmek zorunda kalacak. Güçlü yapay zeka sistemleri işlerimizi ve ekonomilerimizi nasıl yeniden şekillendirecek? Bize daha fazla toplumsal dayanıklılık için ne tür fırsatlar verecekler? Ne tür tehditleri büyütecek veya tanıtacaklar? Yapay zeka sistemlerinin ifade edilen “değerleri” nelerdir ve toplum, şirketlerin uygun değerleri belirlemesine nasıl yardımcı olacak? Ve eğer yapay zeka sistemlerinin yinelemeli olarak kendini geliştirmesi gerçekleşmeye başlarsa, dünyada kimin bundan haberdar edilmesi gerekiyor ve bu sistemler nasıl yönetilmeli?
Antropik Enstitü'nün hedefi, ileri düzey yapay zeka sistemleri oluştururken bu zorluklar hakkında öğrendiklerimizi dünyaya anlatmak ve yüzleşmemiz gereken riskleri gidermeye yardımcı olmak için dış kitlelerle ortaklık kurmaktır. Toplumlarımızın bunu yapıp yapamayacağı, dönüştürücü yapay zekanın bilimde, ekonomik kalkınmada ve insan eylemliliğinde mümkün olduğuna inandığımız radikal yükselişleri sağlayıp sağlamayacağını belirleyecek.
Enstitü, Anthropic'in Kamu Yararından Sorumlu Başkanı olarak yeni bir rol üstlenecek olan kurucu ortağımız Jack Clark tarafından yönetiliyor. Anthropic'in üç araştırma ekibini bir araya getiren ve genişleten, makine öğrenimi mühendisleri, ekonomistler ve sosyal bilimcilerden oluşan disiplinler arası bir kadroya sahiptir: Mevcut yeteneklerinin en uç sınırlarını anlamak için yapay zeka sistemlerini stres testine tabi tutan Frontier Red Team; Yapay zekanın gerçek dünyada nasıl kullanıldığını inceleyen Toplumsal Etkiler; ve bunun istihdam ve genel ekonomi üzerindeki etkisini izleyen Ekonomik Araştırma. Enstitü ayrıca yeni ekipler oluşturacak ve şu anda yapay zekanın ilerlemesini tahmin etme ve yapay zekanın hukuk sistemiyle ne kadar güçlü etkileşime gireceğini daha iyi anlama konusundaki çabalar üzerinde çalışıyor.
Enstitünün benzersiz bir bakış açısı var: Yalnızca öncü yapay zeka sistemlerini geliştirenlerin sahip olduğu bilgilere erişime sahip. Yaptığımız teknolojinin şekli hakkında öğrendiklerimizi samimi bir şekilde rapor ederek bunu tüm avantajıyla kullanacak. Enstitü aynı zamanda iki yönlü bir caddedir. Yerinden edilmeyle karşı karşıya olan işçiler ve endüstrilerle ve geleceğin üzerlerine geldiğini hisseden ancak nasıl tepki vereceğinden emin olmayan insanlar ve topluluklarla etkileşime geçecektir. Öğrendiklerimiz, Enstitünün ne üzerinde çalıştığını ve şirketimizin bir bütün olarak nasıl hareket etmeyi seçtiğini belirleyecektir.
Antropik Enstitü birkaç kurucu işe aldı: