Yapay zekâdan arkadaş olur mu?

Siber güvenlik çözümlerinde dünya lideri ESET, kontrolsüz yapılan paylaşımlara dikkat çekerek yapay zek botuyla iletişim kurmanın risklerine dikkat çekti.

Yapay zek arkadaşlar, LLM'lerin ve doğal dil işleme (NLP) teknolojisinin gücünü kullanarak kullanıcılarıyla sohbet tarzında, son derece kişiselleştirilmiş bir şekilde etkileşim kuruyor. Character.AI, Nomi ve Replika gibi uygulamalar, kullanıcılarının psikolojik ve bazen de romantik ihtiyaçlarını karşılıyor. Büyük platformlar bile bu trendi yakalamaya başladı. OpenAI kısa süre önce 'doğrulanmış yetişkinler için erotik içerik' sunacağını ve geliştiricilerin ChatGPT üzerine kurulu 'yetişkinlere yönelik' uygulamalar oluşturmasına izin verebileceğini açıkladı. Elon Musk'ın xAI şirketi de Grok uygulamasında flörtöz yapay zek arkadaşları piyasaya sürdü.

Kişisel bilgilerinizin üçüncü şahıslarla paylaşılmayacağından nasıl emin olabilirsiniz?

Temmuz ayında yayımlanan bir araştırma, gençlerin yaklaşık dörtte üçünün yapay zek arkadaşlarını kullandığını ve yarısının bunu düzenli olarak yaptığını ortaya koydu. Aynı araştırmada gençlerin üçte birinin ciddi konuşmalar için insanlara göre yapay zek botlarını tercih etmesi ve dörtte birinin onlarla kişisel bilgilerini paylaşması dikkat çekti. Bu durum, uyarıcı hikyeler ortaya çıkmaya başladıkça özellikle endişe verici hle geliyor. Ekim ayında, araştırmacılar iki yapay zek arkadaş uygulamasının farkında olmadan son derece hassas kullanıcı bilgilerini ifşa ettiğini paylaştı. Fırsatçı tehdit aktörleri, para kazanmanın yeni bir yolunu her zaman keşfedebiliyor. Kurbanların yapay zek arkadaşlarıyla romantik sohbetlerinde paylaştıkları bilgilerin şantaj için biçilmiş kaftan olduğunu her zaman göz önüne almaları gerekir.

Ailenizi nasıl güvende tutabilirsiniz?

İster kendiniz bir yapay zek arkadaşlık uygulaması kullanın ister çocuklarınızın kullanmasından endişe duyuyor olun şu noktalara dikkat etmelisiniz. Yapay zeknın yerleşik güvenlik veya gizlilik önlemleri olmadığını varsayın. Bir yabancıyla paylaşmaktan rahatsız olacağınız hiçbir kişisel veya finansal bilgiyi onunla paylaşmayın. Siz veya çocuklarınız bu uygulamalardan birini denemek istiyorsanız önceden araştırma yapın ve en iyi güvenlik ve gizlilik korumalarını sunan uygulamaları bulun. Bu, gizlilik politikalarını okuyarak verilerinizi nasıl kullandıklarını veya paylaştıklarını anlamak anlamına gelir. Kullanım amacını açıkça belirtmeyen veya kullanıcı verilerini sattığını paylaşan uygulamalardan kaçının. Uygulamanızı bulduktan sonra, iki faktörlü kimlik doğrulama gibi güvenlik özelliklerini etkinleştirmeyi unutmayın. Bu, çalınan veya brute force saldırısıyla ele geçirilen parolaların kullanılarak hesapların ele geçirilmesini önlemeye yardımcı olacaktır. Gizlilik ayarlarını inceleyerek korumayı artırın. Örneğin, model eğitimi için konuşmalarınızın kaydedilmesini devre dışı bırakma seçeneği olabilir.

Arkadaşlık uygulamalarının kr amaçlı uygulamalar olduğunu unutmayın

Çocuklarınızın bu araçları kullanmasının güvenlik, gizlilik ve psikolojik etkileri konusunda endişeleriniz varsa daha fazla bilgi edinmek için onlarla diyalog kurun. Aşırı paylaşımın risklerini hatırlatın ve bu uygulamaların, kullanıcılarının çıkarlarını ön planda tutmayan, kr amaçlı araçlar olduğunu vurgulayın. Bu uygulamaların çocuklarınız üzerinde yaratabileceği etkiden endişe duyuyorsanız ekran süresini ve kullanımı sınırlamak gerekebilir. Bu sınırlama, ebeveyn denetim kontrolleri veya uygulamaları aracılığıyla uygulanabilir. Çocuklarınız için yaş doğrulama ve içerik denetimi politikalarına sahip yeterli koruma sağlayamayan hiçbir yapay zek destekli arkadaşlık uygulamasına izin vermemeniz gerektiği unutmayın. Düzenleyicilerin, geliştiricilerin bu alanda neler yapıp yapamayacağına dair daha katı kurallar uygulamak için müdahale edip etmeyeceği henüz belli değil. Romantik botlar şu anda bir nevi gri alanda faaliyet gösteriyor ancak AB'de yakında yürürlüğe girecek olan Dijital Adalet Yasası, aşırı derecede bağımlılık yaratan ve kişiselleştirilmiş deneyimleri yasaklayabilir. Geliştiriciler ve düzenleyiciler bu konuda bir sonuca varana kadar, yapay zek arkadaşlarını sırdaş veya duygusal destek olarak görmemek daha iyi olabilir.