Güven, başkalarının davranışlarını tahmin edebilmeye yani öngörülebilirliğe dayanır. Güvendiğiniz kişi, beklediğinizi yapmazsa onun güvenilirliğine dair şüpheleriniz olur. Birçok yapay zeka sistemi de insan beynini taklit eden derin öğrenmeye bağlı sinir ağları üzerine kuruludur. Bu ağlar, tıpkı insan beynindeki nöronlar gibi parametreler ile birbirine bağlıdır. Belirli konularla bilgisi olan dataların oluşturduğu bu ağ, verilerin nasıl sınıflandırılacağını öğrenir. Her veri noktasının ne olduğunu ezberleyemez, bunun yerine ne olabileceğini tahmin eder.
En güçlü yapay zeka sistemleri, trilyonlarca parametre içerir. Bu nedenle yapay zeka sistemlerinin aldıkları kararlar öngörülemez. Bu noktada yapay zekanın açıklanabilirlik sorunu ortaya çıkar. Açıklanabilirlik sorunu da yapay zekaya karşı güvenilmezlik duygusu oluşturmamıza sebebiyet verebilir. Peki, öngörülemez olan yapay zeka ne kadar güvenilir?
Yapay Zeka Güvenilir mi?
Yapay zeka belirli açılardan güvenilirdir. İnsan düşüncesi ve karar verme sürecinin taklidi üzerine kurulu makine öğrenimiyle geliştirilen yapay zeka, veri setlerini analiz ederek kendi algoritmalarını revize edebilir. Bunun sonucunda da bir insanın yardımına ihtiyaç duymadan kendi performansını geliştirebilir. Kendine ait bir performans geliştirme yeteneği, yapay zeka ile çalışmayan programlar için fazla karmaşıktır.
Yapay zekanın belirli açılardan güvenilir olmasının nedenlerinden birisi pragmatik ve etik riskleridir. Etik riskler; tüketici gizliliği, yasal sorunlar gibi konuları içerir. Pragmatik riskler ise AI’ın zarar vermek üzere programlanması ve yıkıcı davranışlar geliştirmesi gibi konulardaki endişelerdir. Tüm “yapay zeka güvenilir mi?” endişelerine rağmen AI, teknoloji dünyasına aşağıdaki faydaları sağlar:
- Yapay zekanın en büyük faydalarından biri, insanların yapabileceği hataların oranını azaltmak, doğruluğu ve kesinliği artırmaktır. Bu konuda insanlar “yapay zeka doğru sonuç verir mi?” diye de endişelenebilir. Ancak, doğru programlanan AI araçlarıyla neredeyse kesin sonuçlar alınabilir.
- İnsanlar günün ortalama 3-4 saatini üretken geçirebilir. İş ve kişisel hayatı dengelemek için herkesin mola ve izinlere ihtiyacı olur. Ancak yapay zeka ara vermeden sonsuza kadar çalışabilir.
- AI, insanlardan çok daha hızlı düşünür. Aynı anda birden fazla görevi gerçekleştirebilir. Yapay zeka algoritmaları sıkıcı olan ve tekrarlayan işleri bile kolayca halledebilir.
- Teknolojik açıdan en gelişmiş şirketin bazıları, insan personel ihtiyacını ortadan kaldıran dijital asistanlar kullanarak müşterileriyle etkileşime geçer.
- Belgeleri kusurlara karşı kontrol etmek ve teşekkür notlarını e-posta ile göndermek gibi günlük işin bir parçası olan görevleri insanlar yerine yerine getirebilir.
Bunların yanı sıra AI; veri depolama ürünleri özelinde, bilgisayarlarda veya bulut sistemlerde kullanılan çok miktarda veriyi analiz etme, eğilimleri belirleme konusunda destek verir. Tüm bu özellikleriyle her ne kadar sonuçlar tam anlamıyla öngörülemez olsa da AI, birçok alanda faydalı işler ortaya koyabilir.
Faydaları sebebiyle, hayatın her alanında gün geçtikçe daha aktif şekilde kullanılacağı öngörülür. Ancak, en azından günümüzde mutlaka insanların kontrolüne ve yönlendirmesine ihtiyaç duyacaktır. Örneğin ChatGPT, istenilen tüm sorulara yüzde 100 doğru cevap veremese de doğru istemlerle hedeflenen sonuçlara ulaşmak mümkün olur. Bu da gelecekte yapay zekayı doğru yönlendirebilecek uzmanlıkların ortaya çıkacağını gösterir.
Yapay Zekanın Riskleri Neler?
Makine öğrenimi ve yapay zeka konusundaki temel çalışması nedeniyle yapay zekanın yaratıcısı olarak bilinen Geoffrey Hinton, “Bu şeyler bizden akıllı hale gelebilir ve yönetimi ele geçirmeye karar verebilir. Şimdi bunu nasıl önleyeceğimiz konusunda endişelenmemiz gerekiyor.” dedikten sonra 2023 yılında Google’daki görevinden ayrılır. (1) Endişe veren bu açıklamanın da dikkat çektiği yapay zeka riskleri şu şekilde sıralanabilir:
- Yapay Zekanın Şeffaflığının ve Açıklanabilirliğinin Eksikliği
Doğrudan teknoloji üzerine çalışanlar için bile yapay zeka ve derin öğrenme modellerini anlamak zor olabilir. Bu durum, yapay zekanın sonuçları nasıl tanımladığına dair bilgi eksikliğine yol açar. Yapay zeka algoritmalarının hangi verileri kullandığıyla ilgili bilgi eksikliği de şeffaflığa dair soru işaretlerine neden olur.
- Yapay Zeka Destekli Otomasyonlar Sebebiyle İş Kayıpları
Yapay zeka destekli yazılım ürünleri ve iş otomasyonlarının teknoloji, pazarlama, üretim ve sağlık gibi sektörlerde benimseneceği öngörülür. AI daha akıllı ve becerikli hale geldikçe de aynı görevler için daha az insana ihtiyaç duyabilir.
World Economic Forum tarafından 2020 yılında yayınlanan bir haber bültenine göre 2025 yılına kadar çalışanların yüzde 50’si temel becerileri konudan yeni yetenekler edinmek zorunda kalabilir. (2) Aksi takdirde, birçok insan işini kaybedebilir.
- AI Algoritmaları Yoluyla Sosyal Manipülasyon
Sosyal manipülasyon yapay zekanın en büyük tehlikelerinin başında gelir. AI algoritmalarına dayanan sosyal medya platformlarından biri olan TikTok; kullanıcı akışını, platformda daha önce görüntülenen içeriklerle doldurur. Uygulamaya yönelik eleştiriler, bu süreci algoritmanın zararlı ve yanlış içeriği filtrelemede başarısız olduğunu savunur. (3)
Yapay zeka sosyal medya platformları ve haber sitelerinde sahte görseller, videolar ve ses klipleri de oluşturmayı kolaylaştırır. Sonuç olarak kötü niyetli kişiler yanlış bilgi vermek için bu AI’dan yararlanabilir. Bu durum da güvenilir ve hatalı haberleri ayırt etmeyi zorlaştırabilir.
- AI Araçlarının Veri Gizliliği İlkesine Güvensizlik
Bir yapay zeka sohbet robotu kullanıldığında ya da çevrim içi bir AI yüz filtresi ile görsel oluşturulduğunda uygulamalar verilerinizi işlemek için toplar. Ancak bu verilerin nereye gittiği ve nasıl kullanıldığı kesin değildir.
Yapay zeka sistemleri genellikle kullanıcı deneyimini özelleştirmek veya kullandığın AI modelini eğitmeye yardımcı olmak için kişisel verileri toplar. 2023 yılında ChatGPT, bazı kullanıcıların sohbetini başka bir aktif ekranda göstermiştir. (4)
- Hata Payı Yüksek Akademik Çalışmalar
ChatGPT ve Bard gibi üretken yapay zeka araçlarının hızlı yükselişi hata payı yüksek akademik çalışmalara sebebiyet verebilir. Tamamen yapay zeka üretimi olan çalışmalar ortaya çıkarılarak hatalı veriler elde edilebilir.
- Algoritmaların Getirdiği Finansal Krizler
Finans sektöründe yapay zeka teknolojisinin günlük finans ve ticaret süreçlerine katılımı olasıdır. Bunun sonucunda oluşabilecek algoritmik ticaret, piyasalarda bir mali krize sebebiyet verebilir. (5)
AI algoritmaları muhakeme veya duygular tarafından gölgelenmese de piyasaların birbirine bağlılığını ve insanların güveniyle korkusunu hesaba katmaz. Bu algoritmalar birkaç saniyede küçük kârlar elde etme karşılığında satış yapma hedefiyle binlerce işlem gerçekleştirebilir. Binlerce işlemin yapılması, yatırımcıları da aynı şeyi yapmaya teşvik edebilir. Bu durum da ani çöküşlere ve aşırı piyasa dalgalanmalarına yol açabilir.
- İnsan Etkisinin Kaybı
Yapay zeka teknolojisine çok fazla güvenmek, toplumun bazı kesimlerinde insan etkisinin kaybına ve iletişimde eksikliklere yol açabilir. Örneğin; yapay zekanın sağlık hizmetlerinde kullanılması, insan empatisinin ve muhakkeme yeteneğinin azalmasına neden olabilir.
Yaratıcı çabalar için üretken yapay zekanın uygulanması, insanın yaratıcılığını ve duygusal ifadesini azaltabilir. AI sistemleriyle çok fazla etkileşimde bulunmak, akran iletişiminin ve sosyal becerilerin azalmasına bile neden olabilir. Yani, yapay zeka günlük görevlerin otomatikleştirilmesinde oldukça faydalı olsa da bazıları bunun yetenekleri ve duyguları köreltebileceğini, empatiyi azaltabileceğini düşünür.
- Kontrol Edilemeyen Yapay Zeka
AI’ın zeka konusunda çok hızlı ilerleyerek duyarlı hale gelebileceği ve kötü niyetli bir şekilde insanların kontrolü dışında hareket edeceği endişesi de ortaya çıkar. Bu endişeler sebebiyle yapay zeka uygulamalarının kullanılmaması gerektiğini savunanlar bile bulunur.
Tüm risklerine rağmen AI’ın sağlıkla ilgili verileri düzenlemek ve sürücüsüz araçlara güç vermek gibi çok sayıda faydası bulunur. Bu sebeple tüm faydalarından yararlanılması ve risklerin ortadan kaldırılması hedefiyle güvenilir yapay zeka terimi ortaya çıkmıştır.
Güvenilir Yapay Zeka Nedir?
Güvenilir yapay etik açıdan uyumlu, teknik açıdan ise sağlam olan AI’ı tanımlamak için kullanılan bir terimdir. Tasarımdan geliştirmeye, dağıtımdan kullanıma kadar yaşam döngüsünün her aşamasında güven tesis edebildiği yapay zekanın tam potansiyeline ulaşacağı fikrine dayanır. Güvenilir yapay zekaya ulaşmak için bazı aşağıdaki bileşenlerin sağlanması gerekir:
- Veri gizliliğinin sağlanması için kontrol mekanizmalarının geliştirilmesi önemlidir. Bu mekanizmalar, makine öğreniminden geliştirmeye kadar sürecin her aşamasında aktif olmalıdır.
- Yapay zeka sistemleri güvenilir sonuçlar vermelidir. İstisnaları ele alabilmeleri, zaman içinde performanslarını geliştirebilmeleri gerekir.
- Bir yapay zeka saldırı verileri, modeli veya altyapıyı hedefleyebilir. Yapay zeka sistemlerinin sağlam olabilmesi için zararları en aza indirmeyi ve önlemeyi amaçlayan risklere karşı olan bir yaklaşımla geliştirilmesi gerekir.
- Anlamak, güven geliştirme sürecinin en önemli unsurudur. Yapay zeka sistemlerinin nasıl karar verdiğini ve her karar için neleri değerlendirdiği anlamak önemlidir. Anlayışı geliştirmek ve ilgili tüm paydaşların bilinçli kararlar almasına olanak sağlamak için AI’ın kullandığı sistemin açıklanması gerekir.
- Yapay zeka sistemleri adil, tarafsız ve herkes için erişilebilir olmalıdır.
- Yapay zeka ile ilgili veriler, sistemler ve iş modelleri şeffaflık sağlamalıdır.
- Güvenilir AI, yapay zeka sisteminden etkilenen farklı paydaş grupları ve alan uzmanlarıyla disiplinler arası iş birliği içinde geliştirilmelidir. Bu iş birliği sonucunda veri ve açıklamaların hangilerinin yararlı olduğu daha iyi tanımlanabilir.
Tüm bunların yanı sıra yapay zeka sisteminin yetenekleri ve sınırlamaları ilgili kullanıcılara açıklanmalıdır. Şeffaflık; daha etkili izlenebilirlik, denetlenebilirlik ve hesap verilebilirliğe de katkıda bulunur.
Etik ve güvenilir yapay zeka konusunda farkındalığın artması, AI’ın izlenebilir ve kontrol sağlanabilir olması insanların bu teknolojiye olan ilgisinin artmasını da sağlayacaktır. Güvenilir bir yapay zeka ortamı oluşturmak için araştırmacılar ve yapay zeka destekli sistemleri uygulayanlar arasında etkili etkileşim uygulanmalıdır. Tüm bunların sonucunda yapay zeka, insanlığa oldukça faydalı bir teknoloji olacaktır.
Kaynaklar:
- https://twitter.com/geoffreyhinton/status/1652993570721210372
- https://www.weforum.org/press/2020/10/recession-and-automation-changes-our-future-of-work-but-there-are-jobs-coming-report-says-52c5162fce/
- https://www.trtworld.com/magazine/how-tiktok-s-shaky-algorithm-fails-to-protect-users-from-harmful-content-61976
- https://openai.com/blog/march-20-chatgpt-outage
- https://business.fiu.edu/academics/graduate/insights/posts/ai-in-healthcare,-initiatives,-and-lessons-as-cio-in-the-pandemic-era.html
