AI: Çıkmak üzere olan savaş beklediğimiz gibi olmayacak...

Çoğu bilim kurgu anlatısının bir şekilde empoze ettiği imgeler, bize insanlığın er ya da geç sorunla yüzleşmek zorunda kalacağı bir dünya sunuyor.Yapay zeka. Yapay zeka kendisinin farkına varıp bizi yok etmeye veya bizi kontrol etmenin bir yolunu bulmaya karar verdiği anda çatışma patlayacak.

Eğer bu bakış açısı gerçekçiyse (ki bu konuda tartışılacak çok şey var), mevcut üretim sistemlerindeki farkındalığın mutlak eksikliği göz önüne alındığında bizi bekleyen savaş, zaman açısından oldukça uzak görünüyor. Böylece şimdilik rahat uyuyabiliriz. Ya da değil?

“Askeri amaçlı yapay zeka konusunda acilen bir düzenlemeye ihtiyaç var”
Rus-Ukrayna Savaşı: Yapay Zeka Fark Yaratıyor mu?
Komplo, yalan haber ve yabancı düşmanlığı: tehlikeli dijital karışım

Mevcut Yapay Zekaların gerçek tehlikeleri

Konuyla ilgili hala çok fazla kafa karışıklığı var Yapay zeka. Söylemesi acı verici olan kafa karışıklığının, iyi sanatta, konu hakkında yazmaya hevesli olan ancak çoğu zaman konunun gerçek doğasını, potansiyelini ve risklerini anlama konusunda yeterince hazırlıklı olmayan gazeteci arkadaşları tarafından körüklendiğidir.

Bu tür bir kafa karışıklığı, kendimizi herhangi bir dış varlığa (başka bir kişi, bir hayvan veya bu durumda olduğu gibi bir yazılım nesnesi) yansıtma yönündeki doğal eğilimimiz tarafından da teşvik edilir.

Bu nedenle, görünüşte zeki olan davranışın nasıl olup da gerçek farkındalığı varsaymadığını anlamakta zorluk çekiyoruz.

Bu nedenle, genel gazetelerdeki çok sayıda "tıklama tuzağı" manşetinin teşvikiyle, henüz zaman açısından çok uzakta olan sorunlar hakkında endişeleniyoruz, ancak bugün bizi doğrudan ilgilendiren sorunları görmüyor veya hafife almıyoruz.

Her zaman olduğu gibi orada teknoloji insana fayda sağlayacak şekilde uygulanabileceği gibi, ona zarar verecek şekilde de uygulanabilir.

Örneğin sosyal düzeyde Yapay Zeka, şehirlerdeki trafik veya bürokratik ve sağlık hizmetleri gibi süreçleri ve hizmetleri optimize etmek için kullanılabilir.

Veya öğretmenlerin her öğrencinin özelliklerine ve özelliklerine göre kişiselleştirilmiş dersler veya testler hazırlamasına yardımcı olabilir.

Kişisel düzeyde, bizim için en sıkıcı veya tekrar eden kısımları yöneterek, işimizi ve zamanımızı daha iyi organize etmemize yardımcı olabilir.

Veya talimatlarımızı izleyerek görseller, müzik veya videolar oluşturarak yaratıcılığımızı daha iyi ifade etmemize yardımcı olabilir.

İyi kullanılan Yapay Zeka, faaliyetlerimizin yerini almamalı, tamamlamalıdır.

Ancak metin, görüntü ve video üretebilen mevcut üretken sistemler çoğunlukla internetten alınan devasa veritabanlarına dayandığından, çoğunlukla bizim düşüncelerimizi yansıtırlar. "ön yargı" ve hepsinden önemlisi istatistiksel ortalamalar üzerinde çalışırlar.

Gittikçe daha fazla içerik üretildikçe Yapay Zekalar Kendi başlarına risk, giderek daha somut bir aşağı yönlü seviyelenmeyle birlikte ortalamaların ortalamalarının yaratılmasıdır.

Ancak bunlar karşılaşılabilecek ve çözülebilecek sorunlardır: Henüz bahsetmediğim en büyük risk insan faktörüdür.

Fotoğraf galerisi, web korkularını kovan karikatürler
Yenilik ve gazetecilik: çoğu zaman zor bir birliktelik
Yapay Zeka (aynı zamanda) fotoğraf düzenlemede bir devrimdir

Yapay zekanın gücü ve yaklaşan savaş çatışmaları

Şu ana kadar zaten bilinen ve sonuçta çok fazla kaygılanmadan çözülebilecek sorunlarla uğraştım. İyi (ya da kötü) şimdi geliyor.

Bir hayal edelimYapay zeka iyi eğitimli, herhangi birinin sesini gerçekçi bir şekilde yeniden üretebilen. Bu tür sistemler zaten mevcut.

Bunu, gerçek insanların rol aldığı güvenilir videolar oluşturabilen başka bir Yapay Zeka ile birleştirelim. Bu sistemler de mevcuttur ve bazı durumlarda halihazırda kullanılmıştır.

Yaratabileceğimiz şey bu”derin sahte” (tamamen yanlış ama tamamen güvenilir videolar) son derece basit bir şekilde, siyasi rakiplerin, düşman ülkelerin veya daha doğrusu hoşlanmadığımız insanların zararına.

Bu yüzden gerçek insanlarmış gibi davranan binlerce (hayır, onbinlerce) Sohbet Botu oluşturuyoruz. en popüler sosyal ağlar ve belki de seçim döneminde, iftira atmak, rakiplerin kariyerlerini mahvetmek veya düşman ülkede olabildiğince kaos yaratmak için oluşturulmuş videoları paylaşmaya başlıyorlar.

Böylece hakikatin savaşı doğdu ve şimdi hepimiz onu kaybetme tehlikesiyle karşı karşıyayız.

Ve bazı analistlere göre dışarıdan "aşılanmış" propagandayla çarpıtılan son Amerikan seçimlerini de unutun (okuyun: Rusya Federasyonu).

Mevcut sistemlerin potansiyeli ve orta gelecekte elde edilebileceklerle karşılaştırıldığında, Kasım 2020 haberlerini çarpıtmaya yönelik her türlü girişim çocuk oyuncağıydı.

Böylece Birinci Dünya Savaşı'nın davullarını çalıyoruz yapay zekanın
Pizzini'den sosyal ağlara: mafya İnternette böyle çoğalır
Morat Savaşı dünyanın en büyük dijital nesnesi olacak

Alışılmadık silah olarak kullanılan halüsinasyonlar

Le Yapay Zekalar Üretken insanların çalışma ilkelerinde yapısal bir kusur vardır: Halüsinasyonlardan muzdariptirler. ChatGPT-4 gibi en son sürümler, az ya da çok başarıyla bu eğilimi sınırlamaya ve düzeltmeye çalışıyor.

Bu "halüsinasyon potansiyeli", iyi niyetli olmayan kullanıcılar tarafından da, belirli siyasi grupların az çok açık inançlarına dayanan, görünüşte doğru olan haberleri yaymak için kendi çıkarları doğrultusunda kullanılabilir.ön yargı".

Hepsi de birkaç yıl öncesine kadar mevcut olanlardan çok daha üstün bir "ateş gücüne" sahip.

İyi organize olmuş bir grup (belki de uyumlu bir hükümetin masa altında yardım etmesi), nüfusun büyük çoğunluğunun halihazırda bilinen zayıf noktalarından yararlanacaktır. internetteki bilgisayarlar Optimize edilmiş saldırılar için ve milyonlarca cihazın kontrolünü ele alın.

Bunu, sahte ürünler oluşturmak için bunları sunucu olarak kullanarak yapacaktı. sosyal hesap orijinalinden kolayca ayırt edilemez.

Sahte hesaplar daha sonra adı geçen grupların inançlarını güçlendirmeyi amaçlayan tezleri ve haberleri yayacak.

Ve bu tür saldırılarla mücadele etmenin tek yolu...Yapay zeka.

Yayınlanmamış denemelerden oluşan bir koleksiyonda yapay zeka ve çatışmalar
Aktörler Grevde: Yapay Zekaya Karşı Özgünlüğü ve Yaratıcılığı Savunmak
Video, İsviçre-Burgonya çatışması dijitalleştirildi ve korundu

Böyle bir evrimin krizi ve fırsatları

Gelecekteki savaşı kim kazanacak?

Le Yapay Zekalar sosyal sabotajcıların mı yoksa bizi savunmakla görevlendirilenlerin mi hizmetindeyiz?
Şu anda kimse söyleyemez.

Bir şeyden emin olabiliriz: Yalnızca iyi hazırlanmış bir ülke (veya daha da iyisi, eleştirel düşünme becerileri ve dijital araçlara ilişkin bilgiyle donatılmış bir nüfusa sahip bir ülke federasyonu) bu zorluklarla yüzleşebilecektir.

Yapay Zekayı bir mucize veya tehdit olarak deneyimlememesi, ileri görüşlü bir yönetim sınıfı ve etik inovasyona ve gerçek bir dikkatle onun yararlarını, potansiyelini ve sorunlarını anlamayı öğrenmesi gerekir. teknoloji.

Bir an önce buradan başlamamız lazım...

Yapay Zeka çocuklarımızın en iyi arkadaşı ise
Facebook'un Yeni Konuşması (veya "Yapay Demans")
Fotoğraf galerisi, Louis Braun'un 1000 metrekarelik eserinin tabloları