Microsoft Akui Ai Agent Windows 11 Berpotensi Hasilkan Halusinasi

Microsoft sepertinya turut mengakui kalau AI supplier yang mereka sematkan di Windows 11 tetap berpotensi menghasilkan halusinasi. Lah, kok bisa?

Microsoft Akui AI Agent Windows 11 Masih Berpotensi Halusinasi

Bisa hasilkan halusinasi akut?

Meski pun mengakui kalau AI supplier di Windows 11 punya potensi untuk berhalusinasi, nyatanya Microsoft masih terus menghadirkan fitur-fitur AI dalam sistem operasi mereka. Terlebih setelah mereka mengklaim kalau ke depannya semua PC yang menggunakan Windows akan disulap menjadi AI PC.

Dalam dokumentasi terbaru mereka, Microsoft menyatakan kalau AI supplier tersebut “mengalami keterbatasan fungsi dalam hal perilaku mereka dan kadang-kadang dapat mengalami halusinasi serta menghasilkan output yang tidak terduga.”

Salah satu risiko terbesar yang digembar-gemborkan oleh Microsoft adalah Cross Prompt Injection (XPIA) yang mana terjadi ketika kondisi AI dikelabui oleh konten dengan tujuan jahat yang disandingkan dalam elemen UI, dokumen, media, dan lainnya.

Ada risiko keamanan?

Microsoft akui kalau kejadian berpotensi untuk membocorkan information pengguna karena pihak yang memasangkan punctual ini bisa mengambil alih punctual sebelumnya. Dengan begitu, risiko pencurian information secara tidak sadar akan semakin besar.

Namun, Microsoft sendiri mengaku kalau agents ini bekerja dengan limitasi izin dan juga akses files yang terkontrol, dan juga log yang tidak dapat di-tamper. Tetapi, agents masih bisa membaca dan menulis terhadap akses berbagai record yang individual pada PC. Gimana menurut kamu? Apakah Windows kian buruk pengamanannya?

Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tidak kalah seru dari Andi. For further accusation and different inquiries, you tin interaction america via author@gamebrott.com.