Yapay zeka modellerinin eğitimi için CAPTCHA testleri, oyunlar ve navigasyon verileri gibi çeşitli çevrimiçi kullanıcı aktivitelerinden veri toplanıyor. Bu durum gizlilik ve güvenlik endişelerini beraberinde getiriyor.
Yapay zeka modelleri ChatGPT, Gemini ve Claude gibi büyük dil modelleri (LLM) her gün milyonlarca kullanıcı tarafından etkileşimde bulunuyor. Bu modellerin eğitimi için kullanılan metinler kitaplardan, internet sitelerinden ve diğer yazılı kaynaklardan elde ediliyor. Ancak son dönemde, bu eğitim sürecinin internet kullanıcılarının çevrimiçi hareketlerinden de veri topladığına dair tartışmalar yoğunlaşıyor.
İnternet hizmetlerine erişimden önce kullanıcıların robot olmadıklarını doğrulamak için kullanılan CAPTCHA ve reCAPTCHA testleri, artık sadece bir güvenlik önlemi olarak görülmüyor. Kullanıcıların harfleri yazması veya görsellerdeki nesneleri tanıması gibi basit görevler içeren bu testlerin, yapay zeka araçlarının eğitimi için kullanıldığı iddia ediliyor. Google’ın reCAPTCHA testlerinde sıkça sorulan yaya geçitleri, trafik lambaları gibi nesnelerden elde edilen verilerin, yapay zeka destekli otonom araçlar için kullanıldığı yönündeki spekülasyonlar devam ediyor.
Bir Google Cloud sözcüsü, reCAPTCHA kullanıcı verilerinin yalnızca hizmeti iyileştirmek amacıyla kullanıldığını ve hizmet şartlarında bu durumun açıkça belirtildiğini ifade etti. Bu açıklama, verilerin başka amaçlarla kullanılmadığına dair bir güvence sunuyor.
Yapay zeka eğitiminde kullanıcı verilerinin kullanılması tartışmaları, oyunlar ve navigasyon uygulamaları gibi farklı alanlara da sıçradı. Niantic firmasının popüler oyunu Pokemon Go, oyuncuların GPS ve kamera verileriyle gerçek dünyada etkileşimde bulunması sayesinde büyük bir görsel veri havuzu oluşturdu. MIT Technology Review’e göre, Niantic Spatial şirketi bu 30 milyar görseli kullanarak gerçek dünyanın sanal bir modelini üretti. Bu teknoloji, GPS’in güvenilir olmadığı yerlerde robotların hareketini kolaylaştırmayı hedefliyor.
Niantic, Kasım 2024’te yaptığı açıklamada, oyuncuların gerçek dünyayı tarayarak sunduğu verilerin kullanıldığını doğruladı ancak bu özelliğin tamamen opsiyonel olduğunu vurguladı. Kullanıcıların gönüllü katılımı, bu tür veri toplama süreçlerinin mahremiyet endişelerini hafifletmeyi amaçlıyor.
İsviçre Lozan Üniversitesi’nden Profesör Christian Peukert, yapay zeka eğitim materyalleri ile kullanıcı güvenliği ve mahremiyeti arasındaki dengeyi değerlendirdi. Peukert, eski CAPTCHA versiyonlarında kullanıcıların deşifre ettiği kelimelerden birinin sistem tarafından bilindiğini, bilinmeyen kelimeye verilen yanıtın ise dijitalleşme çabaları kapsamında veri olarak depolandığını belirtti. Bu durumun, kullanıcıların metin tanıma sistemlerinin iyileştirilmesine doğrudan katkıda bulunduğu anlamına geldiğini vurguladı.
Peukert, Reddit ve Twitter gibi sosyal medya platformlarının dil modellerini eğiten metinler sağladığını, Instagram gibi görsel platformlarda eklenen açıklamalar ve etiketlerin görsel veriyi etiketlediğini belirtti. Google aramalarının dil anlama sistemlerini geliştirdiğini, Google Haritalar ve Waze gibi navigasyon uygulamalarının ise hareket verilerini topladığını ekledi. Sohbet robotları ve sesli asistanlarla yapılan görüşmelerin de sistemleri iyileştirmek için kaydedildiğini söyledi.
Bu veri toplama süreçlerinin gizlilik ve güvenlik açısından sorunlar yaratabileceğini belirten Peukert, büyük veri birikiminin fişlemeye, sahte içerik üretimine ve kullanıcıların kendi sistemlerini beslemesine yol açabileceği uyarısında bulundu. Bireysel önlemlerin veri kullanımını azaltmada yetersiz kalabileceğini, zira verilerin büyük veri kümelerine dahil edildiğinde kontrolünün zorlaştığını ifade etti. Ancak Peukert, insan kaynaklı verilerin dil teknolojileri, çeviri, erişilebilirlik araçları ve arama motorları gibi günlük hizmetlerdeki kullanımının faydalarına da dikkat çekti.
Yorum Yap