in

Sensor Baru China dan Russia

.. dengan mengendalikan chat bot AI. China dan Russia sangat ketat memfilter chat bot AI. Hebatnya, mereka sudah punya aturan untuk itu.

(Credit: Iurii Motov)

Kalau kamu bertanya kepada ChatGPT4 tentang apa yang terjadi di China pada tahun 1989, jawaban yang kamu terima adalah cerita tentang pembantaian tentara terhadap ribuan demonstran di Lapangan Tiananmen.

Kalau kamu bertanya kepada Erine, chat bot buatan Baidu, di Chine, ia akan mengelak. Ernie mengatakan tidak punya “informasi yang relevan”.

Chat AI (ada banyak platform) populer karena menjadi perbincangan. Yang belum mengerti cara kerja dan kenyataan AI, masih banyak yang terbuai dengan editing video tentang keampuhan chat AI. Seolah-olah, bikin konten itu mudah, coding instan, bahkan menembus sensor. Tiktok dan Twitter banyak berisi video semacam ini. Sebenarnya, tidak seperti itu. Sampai sekarang, berdasarkan rate, akurasi terbaik sekaligus rate halusinasi terendah, masih ada di ChatGPT4. Google Palm dan Chat paling buruk.

Popularitas ini mengkhawatirkan.

Apa yang terjadi ketika ratusan juta orang mengakukan pertanyaan sensitif dan menghasilkan jawaban yang secara politik membahayakan sabilitas suatu negara? China ketat menyensor kontent. Ini sebabnya, model chat bot AI berpotensi menjadi mesin sensor baru.
Pemerintah China bisa memfilter data yang masuk, melakukan redirect jawaban, serta mengendalikan informasi yang sudah ada.

Februari 2023, China melarang Tencent dan Ant Group yang mengintegrasikan ChatGPT ke layanan mereka. Siapa yang mau mengembangkan AI generatif, harus mematuhi sensor, yang sudah lama jalan di media sosial. Mereka juga wajib mempromosikan nilai-nilai inti sosialis. Apple menghapus lebih dari 100 aplikasi chat bot AI dari AppStore di China, sesuai tuntutan pemerintah. China mendorong perusahan-perusahaan lokal untuk bikin chatbot sendiri dan menanamkan kendali informasi di dalamnya, secara sengaja.

Juli 2023, pemerintah China mengharuskan produk AI generatif, seperti Ernie Bot, untuk memastikan apa yang didefinisikan oleh Partai Komunis China sebagai “kebenaran, keakuratan, objektivitas, dan keragaman” data pelatihan. Model LLM dilatih berdasarkan propaganda negara dan data disensor meskipun hasilnya bias. Russia mencantumkan “kedaulatan teknologi” sebagai prinsip inti dalam pendekatannya terhadap AI. Tanyakan kepada Alice, bot AI buatan Yandex, tentang invasi Kremlin ke Ukraina pada tahun 2021, Alice menjawab bahwa ia tidak siap membahas topik itu, agar tidak menyinggung siapapun.

Jawaban berbeda, kalau kamu tanyakan ini ke Bard Google atau Perplexity, model Chat AI yang terhubung internet.

Pemerintah China dan Russia menganggap chat bot AI memiliki ancaman potensial.

Saya memakai ChatGPT4 hanya sebagai inspirasi, sebelum mencari jawaban lebih lanjut, misalnya dengan Google News, SCITE, atau Perplexity.

Sangat disayangkan, kalau suatu negara sudah represif terhadap kebebasan dan obyektivitas informasi dengan cara memfilter dan mengendalikan training terhadap model LLM yang semakin dikenal luas di masyarakat.

Tentu saja bukan hanya China dan Russia yang bisa menerapkan politik seperti ini. Dan selalu ada cara untuk mengakali sensor seperti itu. [dm]