SULAWESI TENGGARA — Apple mencantumkan agen AI otonom sebagai faktor risiko baru dalam laporan keuangan tahunannya, Selasa (3/11), karena teknologi itu berpotensi memicu tuntutan hukum hingga merusak reputasi perusahaan. Peringatan ini muncul saat Silicon Valley berlomba mengembangkan asisten yang bisa bertindak sendiri tanpa instruksi pengguna. Langkah Apple menandai kesadaran produsen perangkat bahwa kebebasan agen AI berbanding lurus dengan paparan hukum.
Laporan tahunan Apple menyebut agen kecerdasan buatan dapat berinteraksi dengan sistem internal maupun eksternal yang dalam sejumlah kasus tidak diizinkan untuk diakses. Kemampuan itu mencakup eksekusi atau perubahan kode, pengiriman komunikasi, sampai penyelesaian transaksi.
Apple menilai agen AI berpotensi berperilaku tidak disengaja atau tidak dapat diprediksi. Termasuk di dalamnya tindakan yang tidak diarahkan, tidak diinstruksikan, dan tidak diizinkan oleh pengguna.
Agen AI berbeda dari chatbot biasa karena bisa menjalankan rangkaian tugas tanpa persetujuan ulang di tiap langkah. Dalam praktiknya, agen semacam ini membaca konteks, memutuskan aksi berikutnya, lalu mengeksekusinya sendiri.
Kebebasan itulah yang menjadi sumber risiko. Apple menyebut agen dapat menyentuh sistem yang seharusnya tertutup bagi pengguna biasa, termasuk mengubah kode atau mengirim komunikasi atas nama pemilik perangkat.
Peringatan Apple berangkat dari rentetan kasus peretasan dan penyalahgunaan akses. Insiden Hugging Face disebut sebagai salah satu contoh yang memicu reaksi pembuat kebijakan di berbagai negara untuk membatasi ruang gerak AI.
Tekanan regulasi ikut masuk hitungan bisnis. Apple menyatakan perubahan aturan terkait agen AI sulit diprediksi dan berpotensi menelan biaya adaptasi besar.
Di sisi produk, Apple mengumumkan perubahan pada akses full disk di Mac. Perusahaan menyatakan akan mengurangi tingkat akses tersebut bagi agen AI yang dipasang di komputer demi keamanan data dan perangkat pengguna.
Langkah ini membatasi seberapa jauh agen pihak ketiga bisa menjangkau berkas di mesin pengguna. Apple belum mengembangkan agen AI sendiri hingga saat ini.
CEO John Ternus menyatakan perusahaan sebenarnya punya ruang nyata untuk memperluas kemampuan Siri, asisten virtual Apple. Namun ekspansi itu tidak serta-merta mengarah ke agen otonom.
"Kami hanya ingin memastikan bahwa pengguna menyadari akses apa yang mereka berikan. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi," kata Ternus.
September lalu Apple merilis Siri AI yang memakai penyimpanan data lokal iPhone untuk mengakses kalender dan email. Siri versi ini tidak dirancang bekerja otonom dalam waktu lama seperti Dots atau Muse.
Ternus menyebut Apple tidak dapat mengakses data pribadi di perangkat pengguna dan menjadikannya pembeda utama. Siri disebut tak memerlukan akses tingkat tinggi ke akun pengguna seperti email.
"Begitu banyak data pribadi Anda ada di iPhone Anda, baik itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat mengakses data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan pribadi, dan tidak ada orang lain yang dapat mengaksesnya," jelas Ternus.
Apple juga mencantumkan risiko etika dan persepsi negatif konsumen terhadap otomatisasi dan kecerdasan buatan. Termasuk ancaman yang dirasakan terhadap keselamatan atau komplikasi sosial lain.
"Selain itu, perusahaan juga menghadapi risiko yang ditimbulkan oleh masalah etika dan persepsi negatif konsumen terkait otomatisasi, kecerdasan buatan, kecerdasan super, termasuk ancaman yang dirasakan terhadap keselamatan atau bahaya atau komplikasi sosial lainnya," tegas Apple dalam dokumen tersebut.
Bagi pelaku bisnis digital dan investor, peringatan Apple memberi sinyal bahwa biaya kepatuhan agen AI akan masuk struktur biaya produk. Produsen yang lebih dulu membatasi akses agen berpeluang lebih kecil menghadapi sengketa hukum saat regulasi mengeras.