MetaAI Skandalı: Aile Fotoğrafları ve Konum Verilerinin Aşırı Derecede Çıkarımı

Kale Robins, Utah’ta yaşayan bir kadın olarak, Meta’nın yapay zeka aracı MetaAI’nin aileye ait özel içeriklerle nasıl oyunlar kurabildiğini gündemine taşıdı. Instagram’da paylaştığı videonun ardından çocuklarına ilişkin ayrıntıların getirildiği bir dizi öneriyle karşılaştı ve bu süreçte kızlarının isimleri, doğum tarihleri ve hatta konum bilgileriyle ilgili verilerin ortaya çıkabileceğini gördü.

Robins, arabada şarkı söylerken çektiği bir anıdan sonra Facebook’ta paylaştığı videoda, MetaAI’ın video ilgili öneriler kısmında arka koltukta oturan kız hakkında “Çocuk yolcu kim?” sorusunu öne çıkarmasıyla karşılaştı. Bu an, yapay zekanın hangi içeriğe dayanarak hangi soruları üreteceğini mercek altına almasına yol açtı.

Görüntülerde Robins, yapay zekanın çocuklar hakkında isimler, doğum bilgileri, fotoğraflar ve videolar gibi ayrıntıları yoğun bir şekilde çıkarıp sunduğunu iddia etti. Anne, bir yandan eski paylaşımların da yeniden gündeme getirildiğini fark etti ve “Her çocuk için ayrı ayrı bilgiler çekmeye başladı” sözleriyle bu durumu özetledi.

Robins’in anlattığına göre, MetaAI yalnızca mevcut içerikleri değil, ailenin yıllar önce silmiş olduğu görüntüleri de taradı. Bu süreçte annenin geçmişte paylaşmadığı bazı fotoğrafların dahi tek tek yeniden ortaya çıktığını iddia etti. Konum bilginin ise özellikle videodaki içeriğe bağlanarak “Kalie Robins’in tam konumu belirleniyor” mesajını tetiklediğini aktardı.

“Neden böyle bir sorunun sorulduğunu anlamıyorum; reşit olmayan bir çocuk hakkında böylesi bir sorgulama yapılması insani olarak sakıncalı” diyen Robins, tıkladığında MetaAI’ın aileye ait paylaşımları ve geçmişteki içerikleri tarayarak her iki çocukla ilgili ayrıntıları topladığını söyledi. Videodaki konum bilgisinin paylaşılmamış olması gerektiğini vurguladı ve bu tür bir durumun kendisini savunmasız hissettirdiğini ifade etti.

Meta, Futurism’e yaptığı açıklamada MetaAI’ın kullanıcının kendi içeriği ile internette kamuya açık bilgiler arasında gezinebileceğini kabul etti; ancak bu durumun amacını aştığını da kabul etti. Şirket, bu özelliğin kullanıcıların ilgi alanları veya önerileriyle daha çok örtüşmesi için tasarlandığını belirtti ve şu yorumu ekledi: “Bir uyarıya tıklandığında yanıtlar kullanıcının erişebildiği bilgilere dayanır. Ancak bu özellik, bu tür soruları yöneltmemeliydi ve biz bu sorunu düzelttik.”

Robins’in Futurism ile paylaştığı ekran görüntülerinde, MetaAI’ın kızlarının yaşlarını belirlemek için aile paylaşımlarından ve doğum duyurularından elde ettiği bilgileri gösterildiği belirtiliyor. Yapay zeka ayrıca çocuklardan birinin doğum kilosu gibi özel ayrıntıları da çıkarabildiğini iddia ediyor. Robins, yapay zekanın kızlarının ilgi alanlarına ilişkin çıkarımlar da yaptığını ve hangi yaşta hangi sınıfta olabileceğini tahmin ettiğini dile getirirken bu durumun kendisini yoğun bir korkuya sürüklediğini anlattı.