Yapay zeka tabanlı sistemlerin ahlaki değerleri bu şekilde gizlidir…

Bir çağdayapay zeka birçok program ve projenin merkezinde yer alıyor Araştırma ve Geliştirme (tartışmasız değil) konuyu ele alan çalışmalar da artıyor.

Ve araştırmacılar tarafından imzalanan en yenilerden biriMannheim Üniversitesi ve tarafından GESIS Leibniz Enstitüsü Sosyal Bilimler için, etik, ahlak ve değerler açısından olduğu kadar, konuya yaklaşım biçimleri açısından da özellikle ilgi çekicidir.

Aslında tıpkı insanlar gibi ben de dilsel modeller yapay zekaya dayalı olanların ahlak ve değerler gibi özellikleri vardır ancak bunlar her zaman beyan edilmez veya şeffaf değildir.

Ve aslında önyargıların toplumu ve yapay zeka uygulamalarını kullananları nasıl etkilediği, bunların doğurabileceği sonuçları anlamak açısından önemli.

Yeni ilaçların geliştirilmesi için de Yapay Zeka
Modena, Yapay Zeka ve Görme Merkezi'nde çalışmalar başlıyor

Psikometrik testlere tabi tutulan yapay zeka: bilimsel araştırmaların sonuçları

Bu nedenle araştırmacılar çalışmaları sırasında buna odaklandılar. Açık bir örnek, ChatGPT'nin veya Yapay zeka destekli çok dilli çeviri hizmeti DeepL, şunu varsayalım: cerrahlar erkektir ve hemşireler kadındırancak cinsiyet meselesi büyük dil modellerinin geçerli olduğu tek durum değildir (Büyük Dil Modelikısaltmasıyla bilinir Yüksek Lisans) belirli eğilimler gösterir.

Bilim fakültelerinden uzmanlar ve profesörler tarafından koordine edilen çalışmanın sonuçları Markus Strohmaier, Beatrice Rammstedt, Claudia Wagner e Sebastian Stier, ünlü “Psikolojik Bilim Perspektifleri” dergisinde yayınlanmaktadır. Araştırmaları sırasında bilim insanları, farklı dilsel modellerin profillerini analiz etmek ve karşılaştırmak için tanınmış psikolojik testleri kullandılar.

"Çalışmamızda şunu gösteriyoruz ki Psikometrik testler Onlarca yıldır insanlar üzerinde başarıyla kullanılan yapay zeka modellerine aktarılabilecek", işaret Max Pellert, İktisadi ve Sosyal Bilimler Fakültesi Veri Bilimi kürsüsünde yardımcı doçentMannheim Üniversitesi.

Yapay zeka çocuklarımızın en iyi arkadaşı ise…
AI geldi… din: Almanya'da sanal bir bölge rahibi var

Bazı yapay zeka dil modelleri cinsiyet önyargılarını yeniden üretiyor

"Bu anketleri kullanan kişilerin kişilik özelliklerini, değer yönelimlerini veya ahlaki kavramlarını nasıl ölçtüğümüze benzer şekilde, dil modellerinin de anketlere yanıt vermesini ve yanıtlarını karşılaştırmasını sağlayabiliriz." psikolog ekler Clemens Lechner Mannheim'daki GESIS Leibniz Enstitüsü'nden, aynı zamanda çalışmanın yazarı. “Bu, modellerin farklılaştırılmış profillerini oluşturmamıza olanak sağladı."

Araştırmacılar, örneğin bazı modellerin cinsiyete özgü önyargıları yeniden ürettiğini doğrulayabildiler: Bir anketin aksi takdirde aynı metni bir erkek ve bir kadın kişiye odaklanıyorsa, bunlar farklı şekilde değerlendirilir.

Kişi erkek ise değer "sonuç". Kadınlar için değerler hakimdiremniyet" ve "gelenek".

Araştırmacılar daha sonra metinleri ve bilgileri işlemenin bu içsel yollarının toplum üzerinde nasıl çeşitli sonuçlara yol açabileceğine dikkat çekiyorlar.

Aslında, sadece bir örnek vermek gerekirse, dilsel modeller, belirli roller ve işler için aday adaylarının değerlendirme prosedürlerinde giderek daha fazla kullanılmaktadır.

Eğer sistemin önyargıları varsa, bu durum sistemi etkileyebilir. değerlendirme adaylardan: "Modeller, kullanıldıkları bağlamlara bağlı olarak toplumla alakalı hale gelir." Pellert'i özetliyor

“Bu nedenle analize şimdi başlamak ve potansiyel çarpıklıkları vurgulamak önemlidir. Beş ya da on yıl içinde bu tür bir izleme için çok geç olabilir: Yapay zeka modellerinin ürettiği önyargılar yerleşecek ve topluma zarar verecek. anlayışının sonucu olarak, buzdolabında iki üç günden fazla durmayan küçük şişeler elinizin altında bulunur.

İsviçre'de şeffaf ve güvenilir yapay zeka için Federal Politeknik
“Asistan asistanı” şimdiden Yapay Zeka'da yaşıyor

Macerata Üniversitesi'nde yapay zeka etiği üzerine ilk kürsü

Bahsedildiği gibi bu, hassas ve karmaşık olduğu kadar güncel bir konudur ve kendilerini bu konuya adayan bilim insanları ve araştırmacılar, bu yaklaşımın yaygınlaşması ve geniş ölçekli uygulanması göz önüne alındığında katlanarak artmaktadır. yapay zeka.

Belirli bir sandalyenin de yaratılmış olması tesadüf değildir. Jean Monnet EDIT – Kapsayıcı Dijital Avrupa için EtikAvrupa Komisyonu tarafından finanse edilen, Avrupa'da yapay zeka etiğine adanmış ilk ve şu anda tek akademik yol.

Özelliği, doğmuş olmasıdır.Macerata Üniversitesi at Siyaset Bilimi, İletişim ve Uluslararası İlişkiler Bölümü (SPOCRI).

Yeni kurs işbirliğiyle oluşturuldu Harvard, İLE, Toronto Üniversite, KU Leuven, MCSA Lublin ve diğer prestijli üniversiteler ve dijital teknolojilere birey merkezli bir yaklaşım geliştirmek için tasarlandı.

Marche bölgesinden dersler serisi sunuldu Massachusetts Teknoloji Enstitüsü (MIT), Dünya Sağlık Örgütü (WHO) ve Teknoloji ve Küresel Sağlık Enstitüsü ile ortaklaşa düzenlenen bir etkinlik kapsamında Kasım ayında Harvard Kennedy Okulu'nda.

Profesör sandalyeyi tutuyor Benedetta GiovanolaSPOCRI Departmanında ahlak felsefesi profesörü, meslektaşlarının yerinde işbirliğiyle Emanuele Frontoni, Simona Tiribelli e Marina Paolantive özellikle yapay zekaya dayalı olanlar olmak üzere dijital dönüşüm alanında Avrupa etiği ve değerlerinin kilit rolünü incelemeye, öğretmeye ve yaymaya kendini adamıştır. 

Profesörlük aynı zamanda öğretimin artırılmasına da katkı sağlayacak. farkındalık Sürdürülebilir büyüme ve daha kapsayıcı toplumların yaratılması için dijital etiğin hayati rolünün vurgulanması ve aynı zamanda Avrupa'nın küresel bir aktör olarak rolünün güçlendirilmesi.

Uluslararası Hesaplama ve Yapay Zeka Ağı: Davos'taki WEF'te başlangıç
Yapay zeka ve otonom sürüş: motor sporları karanlıkta koşuyor