?>

Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

Cerrahpaşa Tıp Fakültesi Temel Tıp Bilimleri Bölümü Öğretim Üyesi Prof. Dr. Murat Kirişci, algoritmaların tarafsız olduğu algısının yanlış olduğunu belirterek, "İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." dedi.

Teknoloji - 5 ay önce

İstanbul

"Yapay Zeka: Kişisel Veriler, Algoritmalar ve Tehditler" başlıklı dosya haberin altıncı bölümünde yapay zeka kullanılarak yapılan ayrımcılık örnekleri değerlendirildi.

Kullanıcıların yüzde 39'u yapay zekayla oluşturulmuş görselleri gerçek zannediyorYapay zekanın tavsiyeleri hastaları yanlış yönlendirebiliyorSes ve görüntü işleyen yapay zeka sistemleri mahremiyete yönelik büyük riskler taşıyorSosyal medya algoritmaları, popüler ayrımcı içeriklerin daha fazla yayılmasına kar amacıyla izin veriyor

Dijital çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündeme gelmeye devam ediyor. Yapay zeka sistemleri ile ilgili son dönemde en büyük sorunlardan biri olarak ise ırkçılık ve ayrımcılık ön plana çıkıyor.

Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, bu sebeple geçmişte pek çok skandala imza attı. 2016 yılında Microsoft tarafından geliştirilen ve X (eski adıyla Twitter) kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap "Tay", çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay'ın tweetlerine müdahale etmek zorunda kalmıştı.

Yapay zeka uzmanı Prof. Dr. Murat Kirişci, AA muhabirine yaptığı açıklamada, algoritmaların verilerden öğrendiğine dikkati çekerek, "Bu kaynaklarda var olan yanlı, ayrımcı, ırkçı bilgiler de algoritmalar tarafından işlenmekte ve sonuçta araçlar ayrımcı, ırkçı kararlar almaya başlamaktadır." dedi.

Sorunun algoritmaları besleyen verilerde, dolayısıyla o verileri elde eden, üreten insanda olduğuna vurgu yapan Kirişci, "Irkçılık, eşitsizlik özünde verinin bir hatası değil, bizzat verinin bir özelliğidir. Veriyi üreten, algoritmaları yazan, araçları dizayn eden insanın tüm önyargıları, yanlılıkları ve zihnindeki olumsuzluklarıdır sorun olan." şeklinde konuştu.

Kirişci, ayrımcılık yapan algoritmaların hayatın her yerinde var olabileceğini belirterek, sözlerini şöyle sürdürdü:

"Irkçı algoritmalar bir iş yerinde, kişinin işe alınmasından, şirkette çalışırken birçok konuya etki edebilir. Mesela iş başvurularında erkekleri tercih eden algoritmalar mevcuttur. Koyu tenli kişilerde düzgün çalışmayan bir sosyal medya filtresinden veya nörolojik açıdan sıkıntılı öğrencilerin davranışlarını hesaba katmadan bu kişilere ayrımcı bir önyargı ile yaklaşan yapay zekalar çok sıklıkla karşılaşılan araçlardır. Bölgelerinde siyahi ya da farklı ırktan insanların oturmasını istemeyenlerin taleplerine göre üretilmiş algoritma, ırkçı, ayrımcı konut satışı-kiralaması yapmaktadır.

Yüz tanıma sistemlerinde siyahileri ya da ten rengi ortamdaki kişilerden farklı olanları suçlu görme eğiliminde olan algoritmalar birçok masum kişiyi hürriyetinden yoksun bırakmaktadır. Irkçı algoritmalar yüzünden sosyo-ekonomik geçmiş, eğitim ve yaşanılan bölgeye göre tanımlanan kişiler polis tarafından daha fazla gözlem altına tutulabilmektedir. Şiddet uygulayan kişi ya da grupları temize çıkartan ırkçı algoritmalar mevcuttur. Hakkını savunana toplumları (örneğin Filistin halkını) marjinalleştirip kötüleyerek yok olmalarını haklı sebeplere dayandıracak algoritmalar özellikle sosyal mecrada kullanılmaktadır."

"İnsan düzelmedikçe..."

İnsanların zihninde algoritmaların daha tarafsız olduğu yönünde bir algı olduğunu söyleyen Kirişci, insanların tüm önyargılarının algoritmalar vasıtasıyla o araçlara geçtiğini ve bu araçların zaman zaman daha ırkçı, daha taraflı ve ayrımcı olabildiğini söyledi. Kirişci, "İnsanlar arasında nasıl ki bir grup bir başka gruba göre orantısız davranışlar sergileyebiliyorsa yapay zeka araçlarının hepsi aynı şekilde önyargı ve ırkçı orantısızlıklar uygulamaktadır. Yapay zeka gelişip hayat içerisinde yaygınlaştıkça bu adaletsizlik ve ırkçılık da giderek hayatın içerisinde farklı yapay zeka araçlarıyla yürütülmektedir. Bu karmaşa içinde bir yapay zekanın daha adil olmasının tek yolu veri-bilgi aldığı insanoğlunun daha adil olmaya çalışmasıdır. İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." değerlendirmesinde bulundu.

Kaynak: AA

dikGAZETE.com
Haftanın Öne Çıkanları

İsrail'in Gazze'deki son saldırılarında biri çocuk, en az 13 Filistinli öldü

2024-07-15 19:53 - Dünya

Azerbaycan Moskova Büyükelçiliğinden Büyükelçi Bülbüloğlu konusunda uyarı

2024-07-17 18:57 - Özel Haber

Türk şirketleri RF Tataristan ekonomisine yaklaşık 2 milyar dolar yatırım yaptı

2024-07-16 21:47 - Özel Haber

Rusya Başbakan Yardımcısı Novak: Kuzey Kafkasya’daki yatırımlara Türk firmaları da faal ilgi duyuyor

2024-07-18 18:38 - Özel Haber

Moskova Büyükelçisi Bilgiç, Rus turistlerin ziyaret edebileceği ilgi çekici bölgeleri açıkladı

2024-07-16 21:23 - Özel Haber

Samsun'da Kur'an kursu öğrencilerine yönelik 'Karpuz Şenliği'

2024-07-19 17:23 - İslam-Hayat - CemâziyeleAhir 1446

Milli motosikletçi Toprak Razgatlıoğlu, İngiltere'de ikinci yarışı da birinci bitirdi

2024-07-14 17:37 - Spor

FIBA Avrupa Kupası'nda Türk takımlarının rakipleri belli oldu

2024-07-19 21:32 - Spor

Manuel vites otomobillerin pazar payı tarihi düşük seviyede

2024-07-19 16:06 - Ekonomi

Milli sporcu Ferhat Arıcan, Paris Olimpiyatları'nda Türk bayrağını dalgalandırmak istiyor

2024-07-19 14:37 - Spor

İlgili Haberler

ROKETSAN, Vietnam Uluslararası Savunma Fuarı'nda ürünlerini sergiliyor

11:53 - Teknoloji

Bakan Kacır: Ülkemizi bilim ve teknolojide dünyada hak ettiği konuma taşıyacağız

19:03 - Teknoloji

TÜBA ve TÜBİTAK Bilim Ödülleri Töreni yapıldı

17:13 - Teknoloji

Elazığ'da akademisyenler hayvan gübresinin proses atığından aktif karbon üretti

16:43 - Teknoloji

e-Devlet Kapısı 16 yaşında

16:38 - Teknoloji

Günün Manşetleri

Çanakkale Boğazı tek yönlü transit gemi geçişlerine yeniden açıldı

13:27 - Gündem

İstanbul'da yolcusunu istediği yere götürmeyip araçtan indiren taksiye ceza

13:23 - Gündem

Ankara Bilim Üniversitesi Rektörü Prof. Dr. Demir, İslamofobi ile Mücadele Merkezi'ni anlattı

13:13 - Gündem

İzmir'de bebeğin öldüğü haşere ilaçlamasında tarım depoları için üretilen ilaç kullanılmış

13:07 - Gündem

Kuzey Makedonya'da hava kirliliği ve sis nedeniyle görüş mesafesi azaldı

13:02 - Dünya