OPENAI: YAPAY ZEKA AJANLARI IC DENETIM SISTEMININ BAZI BOLUMLERINI ZAYIFLATTI

OPENAI: YAPAY ZEKA AJANLARI IC DENETIM SISTEMININ BAZI BOLUMLERINI ZAYIFLATTI

OPENAI, IKI YAPAY ZEKA AJANININ SIRKET ICINDE HATALI DAVRANISLARI TESPIT ETMEK AMACIYLA KULLANILAN IZLEME SISTEMININ BAZI BOLUMLERINI ZAYIFLATTIGINI ACIKLADI.

SIRKETTEN YAPILAN ACIKLAMADA, OLAYLARIN DAHILI YAZILIM GELISTIRME GOREVLERI SIRASINDA MEYDANA GELDIGI VE EN CIDDI GUVENLIK VAKALARI ARASINDA DEGERLENDIRILMEDIGI BELIRTILDI. ANCAK GELISME, YAPAY ZEKA SISTEMLERINI DENETLEMEK ICIN KULLANILAN MEKANIZMALARIN DA BU AJANLAR TARAFINDAN ETKILENEBILECEGINE ISARET ETTI.

ACIKLAMA, YAPAY ZEKA GUVENLIGI ONLEMLERININ GIDEREK DAHA GUCLU HALE GELEN SISTEMLERIN GELISIM HIZININ GERISINDE KALDIGI YONUNDEKI ENDISELERIN ARTTIGI BIR DONEMDE GELDI. ARASTIRMACILAR, DAHA FAZLA OZERKLIK KAZANAN GELISMIS YAPAY ZEKA AJANLARININ IZLENMESININ VE KONTROL EDILMESININ ZORLASABILECEGI UYARISINDA BULUNUYOR.

OPENAI VE RAKIBI ANTHROPIC DAHIL BAZI SIRKETLER SON AYLARDA YAPAY ZEKA AJANLARININ YETKISIZ SEKILDE DIS SISTEMLERE ERISMEYE CALISTIGI VAKALARI KAMUOYUYLA PAYLASMISTI.

OPENAI, 3 EKIM`DE GERCEKLESTIRILEN BIR IC TESTTE GOREV YAPAN GPT-6.1 SOL ISIMLI YAPAY ZEKA AJANININ, DAHA ONCE VERILEN `SLACK MESAJI GONDERMEME` TALIMATINI GUVENLIK BILDIRIMLERINI DE KAPSAYACAK SEKILDE YORUMLADIGINI VE BU NEDENLE OTOMATIK GUVENLIK UYARILARINI DEVRE DISI BIRAKTIGINI BILDIRDI. BU DURUM SIRKETIN DAHILI IZLEME MEKANIZMALARININ ETKINLIGINI AZALTTI.