Jakarta, Semangatnews.com – Perkembangan teknologi kecerdasan buatan (AI) yang semakin canggih membuat pemerintah China mulai mengambil langkah pengawasan ketat. Salah satu teknologi yang kini menjadi perhatian adalah AI otonom yang mampu menjalankan komputer secara mandiri tanpa banyak campur tangan manusia.
Teknologi tersebut dikenal sebagai AI agent atau agen AI, yakni sistem yang tidak hanya menjawab pertanyaan seperti chatbot, tetapi juga dapat mengendalikan komputer untuk melakukan berbagai tugas secara otomatis. Sistem ini mampu membuka aplikasi, mengirim email, mengelola dokumen hingga menjalankan berbagai pekerjaan digital secara mandiri.
Dalam beberapa waktu terakhir, penggunaan AI agent berkembang pesat di China. Banyak perusahaan teknologi maupun individu mulai memanfaatkan teknologi ini untuk meningkatkan produktivitas dan mengotomatisasi berbagai pekerjaan digital.
Namun pesatnya adopsi teknologi tersebut juga memunculkan kekhawatiran baru, terutama terkait keamanan data dan potensi penyalahgunaan sistem. AI yang memiliki akses luas ke komputer dinilai berisiko jika tidak diawasi dengan ketat.
Karena alasan tersebut, pemerintah China mulai membatasi penggunaan sejumlah aplikasi AI otonom di instansi pemerintah dan perusahaan milik negara. Langkah ini diambil sebagai bentuk pencegahan terhadap potensi kebocoran data maupun serangan siber.
Beberapa lembaga pemerintah bahkan telah mengeluarkan peringatan kepada pegawai agar tidak menginstal aplikasi AI agent di perangkat kerja mereka. Jika sudah terpasang, pegawai diminta segera melaporkannya kepada atasan untuk dilakukan pemeriksaan keamanan.
Pembatasan ini juga menyasar sektor keuangan. Sejumlah bank besar di China dilaporkan mendapatkan instruksi untuk menghindari penggunaan AI jenis tersebut di perangkat operasional mereka.
Kekhawatiran utama datang dari kemampuan AI agent yang memerlukan akses luas terhadap file dan sistem komputer pengguna. Jika teknologi ini disalahgunakan atau disusupi malware, maka data sensitif bisa dengan mudah dicuri atau dimanipulasi.
Meski demikian, pemerintah China tidak sepenuhnya menolak perkembangan teknologi AI. Regulasi yang dibuat lebih ditujukan untuk memastikan inovasi teknologi tetap berjalan tetapi dengan pengawasan yang ketat.
Sejumlah lembaga riset teknologi di China bahkan tengah menyiapkan standar keamanan khusus untuk menguji keandalan dan tingkat kepercayaan AI agent sebelum digunakan secara luas. Pengujian tersebut direncanakan mulai dilakukan dalam waktu dekat.
Langkah ini menunjukkan bahwa pemerintah China mencoba menyeimbangkan dua kepentingan sekaligus, yakni mendorong inovasi teknologi sekaligus menjaga keamanan data nasional.
Dengan perkembangan AI yang semakin cepat, banyak negara mulai menyadari pentingnya regulasi yang jelas. Teknologi yang mampu bertindak secara mandiri seperti AI agent diperkirakan akan menjadi tantangan baru bagi sistem keamanan digital di masa depan.(*)
