Sementara manusia berkonsentrasi pada makna objek, kecerdasan buatan berfokus pada karakteristik visual
To the point
- Strategi yang berbeda: Manusia fokus pada makna objek, sementara AI berfokus pada karakteristik visual seperti bentuk dan warna.
- Hasil: AI menangkap dimensi, tetapi ini berbeda dari yang dipilih oleh manusia. Ini mempengaruhi keandalannya.
- Penelitian di masa depan: Teknik yang digunakan dalam penelitian ini memungkinkan perbandingan dan pemahaman yang lebih baik tentang persepsi AI dan manusia.
-Dimensi ini mewakili berbagai sifat objek, mulai dari aspek visual murni, seperti -roundor -white-, hingga sifat semantik yang lebih, seperti -Man-animal -Mire-terkait-, dengan banyak dimensi yang mengandung kognitif visual maupun semantik, jelas, jelas Florian Mahner dari Max Planck Institute untuk Max Planck Institute untuk Max Cognitive Cognitive dan Human Cognitive.
-Hasil kami mengungkapkan perbedaan penting: sementara manusia terutama fokus pada dimensi yang berkaitan dengan makna apa objek dan apa yang kita ketahui tentang model IT-AI lebih bergantung pada dimensi yang menangkap sifat visual, seperti bentuk atau warna objek. Kami menyebut fenomena ini -biasin ai visual. Bahkan ketika AI tampaknya mengenali objek seperti halnya manusia, sering menggunakan strategi yang berbeda secara fundamental. Perbedaan ini penting karena itu berarti bahwa sistem AI, meskipun berperilaku serupa dengan manusia, mungkin berpikir dan membuat keputusan dengan cara yang sama sekali berbeda, mempengaruhi seberapa banyak kita dapat mempercayai mereka.-
Penilaian untuk gambar
Untuk perilaku manusia, para ilmuwan menggunakan sekitar lima juta penilaian ganjil yang tersedia untuk umum lebih dari 1.854 gambar objek yang berbeda. Misalnya, seorang peserta akan ditampilkan gambar gitar, gajah, dan kursi dan akan ditanya objek mana yang tidak cocok. Para ilmuwan kemudian memperlakukan beberapa jaringan saraf dalam yang dapat mengenali gambar yang analog dengan peserta manusia dan mengumpulkan penilaian kesamaan untuk gambar dari objek yang sama yang digunakan untuk manusia. Kemudian, mereka menerapkan algoritma yang sama untuk mengidentifikasi karakteristik utama dari gambar -gambar ini -yang disebut -dimensi oleh para ilmuwan -yang mendasari keputusan aneh -keluar -keluar. Dengan memperlakukan jaringan saraf yang analog dengan manusia, ini memastikan perbandingan langsung antara keduanya. -Ketika pertama-tama kami melihat dimensi yang kami temukan di jaringan saraf yang dalam, kami berpikir bahwa mereka benar-benar terlihat sangat mirip dengan yang ditemukan pada manusia-, jelas Martin Hebart, penulis terakhir kertas. -Tapi ketika kami mulai melihat lebih dekat dan membandingkannya dengan manusia, kami melihat perbedaan penting.-
Selain bias visual yang diidentifikasi oleh para ilmuwan, mereka menggunakan teknik interpretabilitas yang umum dalam analisis jaringan saraf untuk menilai apakah dimensi yang mereka temukan benar -benar masuk akal. Misalnya, satu dimensi mungkin menampilkan banyak hewan dan dapat disebut-animal-terkait-. Untuk melihat apakah dimensi benar -benar merespons hewan, para ilmuwan menjalankan banyak tes: mereka melihat bagian gambar mana yang digunakan oleh jaringan saraf, mereka menghasilkan gambar baru yang paling cocok dengan dimensi individu, dan mereka bahkan memanipulasi gambar untuk menghapus dimensi tertentu. -Semua tes ketat ini menunjukkan dimensi yang sangat dapat ditafsirkan-, tambah Florian Mahner. -Tapi ketika kami secara langsung membandingkan dimensi pencocokan antara manusia dan jaringan saraf dalam, kami menemukan bahwa jaringan hanya benar -benar mendekati dimensi ini. Untuk dimensi terkait hewan, banyak gambar hewan tidak dimasukkan, dan juga, banyak gambar dimasukkan yang bukan hewan sama sekali. Ini adalah sesuatu yang akan kami lewatkan dengan teknik standar.-
Para ilmuwan berharap bahwa penelitian di masa depan akan menggunakan pendekatan serupa yang secara langsung membandingkan manusia dengan AI untuk lebih memahami bagaimana AI memahami dunia. -Penelitian kami memberikan metode yang jelas dan dapat ditafsirkan untuk mempelajari perbedaan-perbedaan ini, yang membantu kami lebih memahami bagaimana AI memproses informasi dibandingkan dengan manusia.-, kata Martin Hebart,-pengetahuan ini tidak hanya dapat membantu kami meningkatkan teknologi AI tetapi juga memberikan wawasan berharga tentang kognisi manusia .-
