Tue. Jul 5th, 2022

ini Sidang Kemuncak Teknologi Transformasi dimulakan pada 13 Oktober dengan tema Kod Rendah / Tanpa Kod: Mencapai Ketangkasan Perusahaan. Daftar sekarang!


Oleh kerana sistem kecerdasan buatan semakin memberikan maklumat untuk membuat keputusan dalam bidang penjagaan kesihatan, kewangan, undang-undang, dan keadilan jenayah, sangat penting mereka memberikan alasan yang dapat difahami oleh manusia untuk tindakan mereka. “Kecerdasan Buatan yang dapat dijelaskan” sebagai bidang Dapatkan momentum Sebagai pengawal selia lebih memperhatikan sistem AI kotak hitam dan penciptanya. Tetapi bagaimana latar belakang seseorang mempengaruhi persepsi tafsiran kecerdasan buatan adalah masalah yang belum diterokai sepenuhnya.

yang baru Belajar Dikarang bersama oleh penyelidik dari Cornell University, IBM, dan Georgia Institute of Technology, ia bertujuan untuk menjelaskan persimpangan kebolehtafsiran dan kecerdasan buatan yang dapat ditafsirkan. Berfokus pada dua kumpulan-satu dengan latar kecerdasan buatan dan yang lain tanpa latar belakang kecerdasan buatan-mereka mendapati bahawa mereka berdua cenderung terlalu mempercayai sistem kecerdasan buatan dan salah memahami tafsiran bagaimana sistem kecerdasan buatan membuat keputusan.

Para penyelidik menulis: “Pandangan ini berpotensi memberi kesan negatif, seperti manipulasi kepercayaan pengguna yang mudah.” mengambil langkah formatif dalam memajukan wacana kecerdasan buatan yang dapat ditafsirkan berpusatkan manusia. “

Kecerdasan buatan yang dapat dijelaskan

Walaupun komuniti AI tidak mempunyai kesepakatan mengenai makna kebolehtafsiran dan kebolehtafsiran, tujuan umum AI yang dapat ditafsirkan adalah untuk membolehkan orang memahami ramalan dan tingkah laku sistem. Sebagai contoh, kaedah penjanaan penjelasan menggunakan versi sederhana model untuk dijelaskan atau meta-pengetahuan mengenai model, dan bertujuan untuk menjelaskan pembuatan keputusan model dengan memberikan prinsip bahasa Inggeris sederhana yang dapat difahami oleh pakar bukan AI.

Berdasarkan kajian sebelumnya, penulis bersama membuat hipotesis bahawa faktor seperti beban kognitif dan kepercayaan umum terhadap kecerdasan buatan boleh mempengaruhi persepsi pengguna terhadap interpretasi kecerdasan buatan.Contohnya, a Belajar Penyelidikan yang diterima pada Interaksi Manusia-Komputer ACM pada tahun 2020 mendapati bahawa penjelasan boleh menyebabkan rasa aman yang salah dan kepercayaan yang berlebihan terhadap AI.Dan dalam yang lain KertasPenyelidik mendapati bahawa saintis data dan penganalisis perniagaan mempunyai pendapat yang berbeza mengenai skor ketepatan sistem AI, dan penganalisis secara keliru menganggap skor sebagai ukuran prestasi keseluruhan.

Untuk menguji teori mereka, pengarang bersama dari Cornell University, IBM, dan Georgia Institute of Technology merancang eksperimen di mana para peserta memerhatikan robot maya yang melakukan urutan tindakan yang sama. Perbezaan dalam urutan tindakan ini hanya bahawa robot “berfikir dengan lantang “tindakan mereka. Caranya. Dalam pemandangan yang mirip dengan permainan video, robot mesti menyeberangi batu bergulir dan sungai lava yang mengalir untuk mengambil bekalan makanan yang diperlukan untuk penjelajah ruang yang terperangkap.

Di atas: Persekitaran seperti permainan video yang dibuat oleh penyelidik untuk eksperimen mereka.

Salah satu robot menjelaskan “alasan” di sebalik tingkah lakunya dalam bahasa Inggeris yang sederhana dan memberikan prinsip asas. Robot lain menyatakan kelakuannya tanpa alasan-misalnya, “Saya akan bergerak ke kanan”-sementara yang ketiga hanya memberikan nilai berangka yang menggambarkan keadaannya sekarang.

Peserta dalam kajian ini – 96 pelajar kolej yang mengikuti kursus sains komputer dan kecerdasan buatan dan 53 pengguna Amazon Mechanical Turk – diminta untuk membayangkan diri mereka sebagai penjelajah angkasa. Mereka terperangkap di planet lain dan harus tinggal di kubah pelindung. Ini adalah satu-satunya sumber hidup mereka, stesen bekalan jauh dengan makanan.

Para penyelidik mendapati bahawa peserta dalam kedua-dua kumpulan cenderung mempunyai keyakinan “tidak berasas” dalam jumlah tersebut. Sebagai contoh, peserta dalam kumpulan AI umumnya percaya bahawa nilai perwakilan matematik lebih tinggi daripada yang munasabah, sementara peserta dalam kumpulan bukan AI percaya bahawa angka mewakili kecerdasan — walaupun mereka tidak dapat memahami maksudnya.Dengan kata lain, walaupun dalam kumpulan AI, orang sahaja Hadir Data statistik logik, pintar dan rasional.

“Pasukan AI memberikan nilai diagnostik yang berlebihan [the robot’s] Nombor, walaupun maknanya tidak jelas, “kata penyelidik dalam kajian ini.” Pandangan ini menunjukkan bagaimana cara penyataan … mempengaruhi persepsi tafsiran ejen kecerdasan buatan, kita melihat norma ketika menilai kecerdasan Konseptual (untuk contoh, objektif dan subjektif) ramalan. “

Kedua-dua kumpulan lebih suka robot komunikasi lisan, terutama robot yang memberikan alasan tindakan mereka. Tetapi cara komunikasi yang lebih mirip manusia ini menyebabkan para peserta mengaitkan kecerdasan emosi dengan robot, walaupun tidak ada bukti bahawa robot itu membuat keputusan yang tepat.

Kesimpulannya adalah bahawa terdapat banyak reka bentuk yang dijelaskan oleh AI di mata para penonton seperti dalam pemikiran para pereka. Para penyelidik mengatakan bahawa niat penafsiran dan heuristik umum sama pentingnya dengan tujuan yang diharapkan oleh pereka. Akibatnya, orang mungkin menemui nilai tafsiran yang tidak pernah dimaksudkan oleh pereka, dan menggunakannya mengikut niat mereka.

“Memahami ketidaksejajaran antara tujuan pereka dan niat pengguna dalam konteks adalah kunci untuk mempromosikan kerjasama manusia-mesin yang berkesan, terutama dalam sistem kecerdasan buatan yang dapat ditafsirkan,” tulis pengarang bersama. “Apabila orang belajar cara tertentu untuk melakukan sesuatu, itu juga mengubah cara kognisi mereka sendiri – sebenarnya, seperti yang kita bincangkan dalam artikel ini, latar belakang AI orang mempengaruhi apa yang mereka maksudkan dengan menjelaskan sesuatu dan bagaimana mereka menafsirkannya. “kemampuan” dalam penafsiran-kemampuan bergantung pada siapa yang melihatnya dan timbul dari proses penciptaan makna antara manusia dan tafsiran. “

Kepentingan penjelasan

Mengingat usaha yang dilakukan oleh Kumpulan Pakar Tingkat Tinggi untuk Kepintaran Buatan (HLEG) Suruhanjaya Eropah dan Institut Piawaian dan Teknologi Nasional di Amerika Syarikat untuk menetapkan standard untuk “kecerdasan buatan yang dipercayai”, hasilnya sangat signifikan. Kebolehtafsiran terus menjadi halangan utama bagi syarikat yang menggunakan AI.mengikut Fico, 65% pekerja tidak dapat menjelaskan bagaimana keputusan atau ramalan model AI dibuat.

Tanpa alat penafsiran yang dirancang dengan baik, sistem kecerdasan buatan boleh menyebabkan bahaya kepada dunia nyata.Contohnya, Universiti Stanford Belajar Diperkirakan bahawa doktor menyalahgunakan peralatan perubatan yang didorong oleh kecerdasan buatan untuk diagnosis, menghasilkan hasil yang berbeza dari yang diharapkan.Yang terdekat lapor Dari alat solek yang belum ditemui berat sebelah Dalam algoritma kelulusan gadai janji A.S., menyebabkan pemberi pinjaman menolak pemohon warna lebih kerap daripada orang kulit putih.

Pengarang bersama mengadopsi pendekatan “maklumat sosial-teknikal” terhadap kebolehtafsiran kecerdasan buatan, dan memasukkan latar belakang organisasi sosial dan perkara lain ke dalam proses membuat keputusan. Mereka juga mengesyorkan penyelidikan mengenai cara-cara untuk mengurangkan manipulasi perbezaan persepsi dalam interpretasi dan pekerjaan pendidikan untuk memastikan bahawa para pakar mempunyai pandangan yang lebih kritis terhadap sistem kecerdasan buatan.

“Kebolehtafsiran sistem kecerdasan buatan sangat penting untuk menanamkan kepercayaan pengguna yang sesuai dan memudahkan jalan keluar. Para penyelidik menulis bahawa perbezaan latar belakang kecerdasan buatan dapat memperburuk bagaimana pereka membayangkan bagaimana pengguna akan mentafsirkan dan menggunakannya dengan betul. Cabaran yang ditimbulkan oleh perbezaan antara.

VC

Misi VentureBeat adalah menjadi dataran bandar digital bagi pembuat keputusan teknologi untuk memperoleh pengetahuan mengenai teknologi transformatif dan melakukan transaksi. Laman web kami memberikan maklumat penting mengenai teknologi dan strategi data untuk membimbing anda dalam memimpin organisasi anda. Kami menjemput anda untuk menjadi ahli komuniti kami untuk mengunjungi:

  • Maklumat terkini mengenai topik yang menarik minat anda
  • Surat berita kami
  • Kandungan pemimpin pemikiran tertutup dan akses potongan ke aktiviti berharga kami, seperti Transformasi 2021: ketahui lebih lanjut
  • Fungsi rangkaian, dll.

menjadi ahli

By admin

Leave a Reply

Your email address will not be published.