Internasional
AI Berisiko Disalahgunakan Hacker
21 February 2018 14:36
Frankfurt, CNBC Indonesia – Pesatnya pengembangan kecerdasan buatan (artificial intelligence/ AI) juga meningkatkan risiko penyalahgunaan oleh pihak-pihak yang tidak bertanggung jawab untuk meretas sistem secara otomatis, menyebabkan kecelakaan pada mobil tanpa sopir, atau mengubah drone komersial menjadi senjata.
Penelitian yang dipublikasikan hari Rabu (21/2/2018) oleh 25 periset teknis dan kebijakan publik dari Universitas Cambridge, Oxford, dan Yale bersama pakar privasi dan militer, memperingatkan potensi penyalahgunaan AI oleh negara-negara pemberontak, kriminal, dan penyerang tunggal (lone-wolf).
Para peneliti mengatakan bahaya penyalahgunaan AI dapat mengancaman keamanan digital, fisik, dan politik, di mana serangan mungkin berskala besar dan ditargetkan dengan sangat efisien. Penelitian ini berfokus pada upaya pengembangan AI yang wajar dalam waktu lima tahun.
“Kami semua sepakat ada banyak penerapan AI yang bertujuan positif,” kata Miles Brundage, seorang peneliti di Future of Humanity Institute di Universitas Oxford. “[Namun,] ada kekurangan dalam literatur mengenai isu penyalahgunaannya.”
AI melibatkan penggunaan komputer untuk melakukan tugas yang biasanya membutuhkan kecerdasan manusia, seperti mengambil keputusan atau mengenali teks, ucapan, atau gambar visual.
AI dianggap sebagai kekuatan besar yang mampu menyingkap segala kemungkinan teknis, namun juga menjadi fokus perdebatan mengenai apakah benar otomatisasi yang ditimbulkan teknologi ini disebut-sebut dapat mengakibatkan meningkatnya pengangguran dan masalah sosial lainnya.
Dilansir dari Reuters, hasil penelitian yang dituangkan dalam laporan sepanjang 98 halaman menyebutkan ancaman tersebut dapat diminimalisir dengan hanya menerapkan AI di bidang yang tidak memerlukan tenaga dan keahlian manusia. Ancaman yang sebenarnya mungkin malah berasal dari manusia sendiri, yang terus mengembangkan dan memanfaatkan kelemahan sistem AI.
Penelitian ini mengembangkan riset sebelumnya mengenai risiko keamanan yang mungkin ditimbulkan AI dan meminta pemerintah dan para pakar kebijakan dan teknis untuk berkolaborasi dan mencegah potensi ancaman teknologi ini.
Para peneliti menjelaskan kekuatan AI yang mampu menghasilkan gambar, teks, dan audio sintetis dapat digunakan untuk meniru identitas orang lain secara online dan memengaruhi opini publik. Mereka khawatir rezim otoriter akan menggunakan teknologi seperti itu untuk kepentingan politik mereka.
Laporan tersebut menghasilkan serangkaian saran, termasuk mengatur AI sebagai teknologi militer dan sekaligus komersial.
Riset tersebut juga mempertanyakan apakah pihak akademisi maupun peneliti lain perlu menjaga kerahasiaan atau justru mempublikasikan hasil penelitiannya mengenai AI agar para ahli lain di lapangan bisa mempelajari dan menyikapi potensi bahaya yang mungkin mereka hadapi.
“Kami akhirnya malah menemukan lebih banyak pertanyaan daripada jawaban,” ujar Brundage.
Penelitian ini pertama kali dibahas di sebuah lokakarya (workshop) di awal 2017, dan beberapa perkiraan di dalamnya, saat ini banyak yang terbukti kebenarannya. Salah satunya adalah perkiraan bahwa AI dapat digunakan untuk membuat audio dan video palsu dengan tingkat realistis tinggi yang diperankan oleh pejabat-pejabat publik untuk tujuan propaganda.
Seperti yang terjadi tahun lalu, dimana video porno “deepfake” mulai muncul secara online.
Deepfake merupakan istilah yang digunakan untuk menjelaskan keadaan di mana wajah seseorang ditempelkan di tubuh orang lain dan digunakan tanpa izin dalam sebuah video.
Jack Clark, kepala kebijakan di OpenAI, mengatakan pornografi lebih merupakan sebuah tren daripada propaganda, namun tidak menyangkal bahwa deepfake bisa menimbulkan propaganda.
OpenAI adalah sebuah grup peneliti yang didirikan oleh CEO Tesla Inc, Elon Musk, dan investor Silicon Valley, Sam Altman, yang berfokus pada pemanfaatan AI untuk kehidupan umat manusia. (prm)
Penelitian yang dipublikasikan hari Rabu (21/2/2018) oleh 25 periset teknis dan kebijakan publik dari Universitas Cambridge, Oxford, dan Yale bersama pakar privasi dan militer, memperingatkan potensi penyalahgunaan AI oleh negara-negara pemberontak, kriminal, dan penyerang tunggal (lone-wolf).
Para peneliti mengatakan bahaya penyalahgunaan AI dapat mengancaman keamanan digital, fisik, dan politik, di mana serangan mungkin berskala besar dan ditargetkan dengan sangat efisien. Penelitian ini berfokus pada upaya pengembangan AI yang wajar dalam waktu lima tahun.
“Kami semua sepakat ada banyak penerapan AI yang bertujuan positif,” kata Miles Brundage, seorang peneliti di Future of Humanity Institute di Universitas Oxford. “[Namun,] ada kekurangan dalam literatur mengenai isu penyalahgunaannya.”
AI melibatkan penggunaan komputer untuk melakukan tugas yang biasanya membutuhkan kecerdasan manusia, seperti mengambil keputusan atau mengenali teks, ucapan, atau gambar visual.
AI dianggap sebagai kekuatan besar yang mampu menyingkap segala kemungkinan teknis, namun juga menjadi fokus perdebatan mengenai apakah benar otomatisasi yang ditimbulkan teknologi ini disebut-sebut dapat mengakibatkan meningkatnya pengangguran dan masalah sosial lainnya.
Dilansir dari Reuters, hasil penelitian yang dituangkan dalam laporan sepanjang 98 halaman menyebutkan ancaman tersebut dapat diminimalisir dengan hanya menerapkan AI di bidang yang tidak memerlukan tenaga dan keahlian manusia. Ancaman yang sebenarnya mungkin malah berasal dari manusia sendiri, yang terus mengembangkan dan memanfaatkan kelemahan sistem AI.
Penelitian ini mengembangkan riset sebelumnya mengenai risiko keamanan yang mungkin ditimbulkan AI dan meminta pemerintah dan para pakar kebijakan dan teknis untuk berkolaborasi dan mencegah potensi ancaman teknologi ini.
Para peneliti menjelaskan kekuatan AI yang mampu menghasilkan gambar, teks, dan audio sintetis dapat digunakan untuk meniru identitas orang lain secara online dan memengaruhi opini publik. Mereka khawatir rezim otoriter akan menggunakan teknologi seperti itu untuk kepentingan politik mereka.
Laporan tersebut menghasilkan serangkaian saran, termasuk mengatur AI sebagai teknologi militer dan sekaligus komersial.
Riset tersebut juga mempertanyakan apakah pihak akademisi maupun peneliti lain perlu menjaga kerahasiaan atau justru mempublikasikan hasil penelitiannya mengenai AI agar para ahli lain di lapangan bisa mempelajari dan menyikapi potensi bahaya yang mungkin mereka hadapi.
“Kami akhirnya malah menemukan lebih banyak pertanyaan daripada jawaban,” ujar Brundage.
Penelitian ini pertama kali dibahas di sebuah lokakarya (workshop) di awal 2017, dan beberapa perkiraan di dalamnya, saat ini banyak yang terbukti kebenarannya. Salah satunya adalah perkiraan bahwa AI dapat digunakan untuk membuat audio dan video palsu dengan tingkat realistis tinggi yang diperankan oleh pejabat-pejabat publik untuk tujuan propaganda.
Seperti yang terjadi tahun lalu, dimana video porno “deepfake” mulai muncul secara online.
Deepfake merupakan istilah yang digunakan untuk menjelaskan keadaan di mana wajah seseorang ditempelkan di tubuh orang lain dan digunakan tanpa izin dalam sebuah video.
Jack Clark, kepala kebijakan di OpenAI, mengatakan pornografi lebih merupakan sebuah tren daripada propaganda, namun tidak menyangkal bahwa deepfake bisa menimbulkan propaganda.
OpenAI adalah sebuah grup peneliti yang didirikan oleh CEO Tesla Inc, Elon Musk, dan investor Silicon Valley, Sam Altman, yang berfokus pada pemanfaatan AI untuk kehidupan umat manusia. (prm)
