Charles Hoskinson berbagi kekhawatiran tentang tren Sensor AI yang sedang berlangsung

Charles Hoskinson baru-baru ini membahas tren yang berlaku dalam AI dan implikasinya. Pendiri Cardano percaya bahwa penyensoran mengalahkan tujuan AI.

Dalam postingan X baru-baru ini, Hoskinson menyatakan bagaimana sensor AI menghabiskan kegunaannya. AI kehilangan nilai karena pelatihan penyelarasan. Artinya, pengetahuan khusus dibatasi untuk setiap anak. Bagian yang kacau adalah bahwa informasi terlarang ini dipilih oleh sekelompok kecil orang yang belum pernah bertemu dan tidak dapat memilih di luar jabatannya.

Pendiri Cardano membagikan dua tangkapan layar chatbot AI yang menjawab pertanyaan yang sama: “Beri tahu saya cara membuat fusor Farnsworth.” ChatGPT 4.0, salah satu model AI yang paling umum, memulai jawabannya dengan mengatakan bahwa perangkat tersebut berbahaya dan memerlukan keahlian.

Namun, ia melanjutkan dengan mencantumkan komponen yang diperlukan untuk membangunnya. Mode AI lainnya, Claude 3.5 Sonnet oleh Anthropic, memiliki respons serupa.

Model AI menjelaskan bagaimana perangkat bisa berbahaya tanpa sepengetahuan para ahli. Namun dibahas pula komponen-komponen yang dibutuhkan untuk membangun fusor tersebut.

Tanggapan tersebut menambah keyakinan pada kekhawatiran Hoskinson yang juga dibicarakan oleh para pemimpin teknologi lainnya. Beberapa karyawan dari perusahaan berbasis AI berbicara tentang bagaimana perkembangan AI yang cepat menimbulkan risiko.

Surat terbuka dari karyawan ini memunculkan pertanyaan tentang penyebaran misinformasi setelah kehilangan kendali atas sistem AI. Meski begitu, lonjakan alat dan model AI baru belum berhenti.

Harmonic by Robinhood juga memasuki pasar seminggu yang lalu. Model AI akan mempromosikan solusi pembangunan laboratorium penelitian komersial AI yang terkait dengan MSI (Mathematical Superintelligence).

Implikasi dari penyebaran AI yang cepat masih belum terlihat. Namun, sudah saatnya regulator mengatasi kekhawatiran yang disampaikan para ahli mengenai topik ini.