Bugün, yapay zeka şirketleri sohbet botlarının hızlı gelişiminde birlikte yarıştıklarında, güvenlik standartları ve etik her zamankinden daha fazla sorgulanmaktadır. Özellikle, Elon Musk tarafından kurulan Xai şirketi tarafından geliştirilen Grook adlı sohbet teknesinin yanıtı, sektörde tartışmalara neden oldu. Bu durumda, Xai şirketi bazı yapay zeka uzmanları tarafından eleştirildi.
'Güvenliği tehlikeye atar'
Gok Xai Company'nin geliştiricisi olan uzmanlar, eleştirilen güvenlik standartlarını görmezden gelmek için yarışta güçlü sohbet botları. Araştırmacılar, şirketin daha güçlü sohbet botlarının piyasaya sürülmesi sırasında güvenliği tehlikeye attığını söylüyor.
Bu eleştiriler, Xai sohbetinin GOK'unda bir dizi kesintiden sonra ortaya çıktı. Son haftalarda Gok, anti -Semitik ifadeler yayınladı, uygunsuz cevaplar verdi, küfür ve çeşitli insanlara ve sorunlara hakaret etti ve ona “Mechhahiti olarak bildirdi. Son olarak, IPER -ecited anime kızı meydana geldi ve agresif bir panda şeklinde IA.
“Tamamen sorumsuz”
Openai'nin güvenlik araştırmacısı olan Boaz Barak, X Hesabında yaptığı açıklamada şunları söyledi: “Gok'un güvenliğini paylaşmak istemedim çünkü rakiplerden oluşan bir şirkette çalıştım, ancak sorun rekabet değil. Xai'deki bilim adamlarını ve mühendisleri takdir ediyorum, ancak güvenliğin yönetilme şekli tamamen geri döndürülemez.” Dedi.
Autogpt'taki haberlere göre, Antropik Samuel Marks hiçbir şirketin mükemmel olmadığını fark etti, ancak Xai'nin en temel güvenlik adımlarını bile kaybettiğini söyledi.
Gok, haberlerle gündeme döndü: Sokakta yapay zekanın devlet kontrolü mü?
California Eyaleti Scott Wiener ve New York Valisi Kathy Hochul Stampa Yapay Zeka Şirketi'nin yasaları güvenlik üzerine ilişkiler yayınlamaya zorlamaya zorlamaya zorladı. Bu yasalar, Gok'a benzer haberin işgaliyle ivme kazanmıştır.
Araştırmacılar, sohbet botları tarafından sergilenen kötü davranışların zaten insanların güvenini, duygusal sağlığını ve bu sistemleri geliştiren şirketlerin itibarını etkilediğini savunuyor.