Mulai dari pengembangan mobil tanpa pengemudi hingga pertumbuhan alat AI generatif seperti ChatGPT dan Google Bard, kecerdasan buatan (AI) adalah landasan kehidupan kita sehari-hari. Jadi apa itu AI? Misalnya saja asisten virtual bertenaga AI yang merespons perintah suara dan melakukan tugas berdasarkan masukan pengguna. Ini hanyalah salah satu contoh bagaimana teknologi AI diintegrasikan ke dalam perangkat sehari-hari untuk menjadikannya lebih intuitif dan mampu berinteraksi dengan manusia dengan cara yang terasa alami dan bermanfaat.
Tapi ini lebih dari itu. Aplikasi AI telah merevolusi cara bisnis beroperasi. Kemajuan dalam pembelajaran mesin dan pembelajaran mendalam, khususnya, menciptakan perubahan paradigma di hampir setiap sektor industri. Mencakup berbagai bidang seperti layanan kesehatan, keuangan, dan teknologi informasi, AI telah memelopori inovasi dan optimalisasi di berbagai bidang. Dan inti dari semuanya, Anda akan menemukan sistem manajemen AI.
Mengingat risiko dan kompleksitas AI, penting untuk memiliki mekanisme tata kelola yang kuat. Sistem manajemen AI memainkan peran penting dalam pengembangan dan penerapan teknologi AI. Di sini, kita akan melihat lebih dekat pentingnya sistem tersebut dalam memberikan penilaian dan penanganan risiko AI yang efektif.
Apa Itu Kecerdasan Buatan?
AI adalah teknologi yang membuat mesin dan program komputer menjadi cerdas, sehingga memungkinkan mereka melakukan tugas-tugas yang biasanya memerlukan kecerdasan manusia. Ini mencakup hal-hal seperti memahami bahasa manusia, mengenali pola, belajar dari pengalaman, dan mengambil keputusan. Secara umum, sistem AI bekerja dengan memproses data dalam jumlah besar, mencari pola yang dapat digunakan untuk memodelkan pengambilan keputusan mereka sendiri.
Meskipun definisi ini diterima oleh orang awam, namun definisi ini tidak sepenuhnya akurat. Jadi apa sebenarnya kecerdasan buatan itu? Menurut ISO/IEC TR 24030:2021 , AI adalah “kemampuan untuk memperoleh, memproses, menciptakan, dan menerapkan pengetahuan, yang disimpan dalam bentuk model, untuk melakukan satu atau lebih tugas yang diberikan”. Definisi ini lebih akurat dari perspektif teknologi dan tidak terbatas pada bidang di mana AI sudah digunakan, namun memberikan ruang untuk pengembangan lebih lanjut.
Tentang Sistem Manajemen AI
Jadi bagaimana cara kerja AI? Sistem AI bekerja berdasarkan masukan, termasuk aturan dan data yang telah ditentukan sebelumnya, yang dapat disediakan oleh manusia atau mesin, untuk melakukan tugas tertentu. Dengan kata lain, mesin menerima masukan dari lingkungan, kemudian menghitung dan menyimpulkan keluaran dengan memproses masukan tersebut melalui satu atau lebih model dan algoritma yang mendasarinya.
Seiring dengan berkembangnya kemampuan AI secara eksponensial, terdapat kekhawatiran mendalam mengenai privasi, bias, ketidaksetaraan, keselamatan dan keamanan. Melihat bagaimana risiko AI berdampak pada pengguna sangatlah penting untuk memastikan penerapan teknologi ini secara bertanggung jawab dan berkelanjutan. Lebih dari sebelumnya, bisnis saat ini memerlukan kerangka kerja untuk memandu mereka dalam perjalanan AI mereka. ISO/IEC 42001 , standar sistem manajemen AI pertama di dunia, memenuhi kebutuhan tersebut.
ISO/IEC 42001 adalah standar yang diakui secara global yang memberikan pedoman tata kelola dan manajemen teknologi AI. Hal ini menawarkan pendekatan sistematis untuk mengatasi tantangan yang terkait dengan penerapan AI dalam kerangka sistem manajemen yang diakui yang mencakup bidang-bidang seperti etika, akuntabilitas, transparansi, dan privasi data. Dirancang untuk mengawasi berbagai aspek kecerdasan buatan, sistem ini memberikan pendekatan terintegrasi untuk mengelola proyek AI, mulai dari penilaian risiko hingga penanganan risiko ini secara efektif.
Dari Risiko Hingga Peluang
ISO/IEC 42001 hadir untuk membantu dunia usaha dan masyarakat secara luas dengan aman dan efisien mendapatkan manfaat maksimal dari penggunaan AI.
Pengguna bisa mendapatkan keuntungan dalam berbagai cara:
- Peningkatan kualitas, keamanan, ketertelusuran, transparansi, dan keandalan aplikasi AI
- Peningkatan efisiensi dan penilaian risiko AI
- Kepercayaan yang lebih besar terhadap sistem AI
- Mengurangi biaya pengembangan AI
- Kepatuhan terhadap peraturan yang lebih baik melalui kontrol khusus, skema audit, dan panduan yang konsisten dengan undang-undang dan peraturan yang muncul
Semua hal ini berkontribusi terhadap penggunaan AI yang etis dan bertanggung jawab bagi masyarakat di seluruh dunia.
Siklus Perbaikan Berkelanjutan Yang Kuat
Sebagai standar sistem manajemen, ISO/IEC 42001 dibangun berdasarkan proses “Plan-Do-Check-Act” dalam menetapkan, menerapkan, memelihara, dan terus meningkatkan kecerdasan buatan. Pendekatan ini penting karena berbagai alasan:
- Pertama, hal ini memastikan bahwa nilai AI bagi pertumbuhan diakui dan adanya tingkat pengawasan yang tepat.
- Kedua, sistem manajemen memungkinkan organisasi untuk secara proaktif menyesuaikan pendekatannya sejalan dengan perkembangan teknologi yang eksponensial.
- Terakhir, hal ini mendorong organisasi untuk melakukan penilaian risiko AI dan menentukan aktivitas penanganan risiko AI secara berkala.
Dengan pesatnya penggunaan AI di seluruh dunia, ISO/IEC 42001 diperkirakan akan menjadi bagian integral dari kesuksesan suatu organisasi, mengikuti jejak standar sistem manajemen lainnya seperti ISO 9001 untuk kualitas, ISO 14001 untuk lingkungan, dan ISO/IEC 27001 untuk keamanan TI.
Membuka Potensi AI
Jelas bahwa AI akan terus meningkat dan maju seiring berjalannya waktu. Oleh karena itu, manajemen AI perlu beradaptasi terhadap perubahan-perubahan ini, dengan fokus pada berbagai cara untuk mempertahankan dan mempercepat sistem AI untuk dunia bisnis. Kita berada di persimpangan jalan yang memerlukan pendekatan terukur. Bagaimana kita memanfaatkan potensi AI secara maksimal tanpa menjadi korban risiko?
Menghadapi situasi yang sulit antara peluang dan risiko hanya mungkin terjadi jika tata kelola yang kuat sudah ada. Inilah sebabnya mengapa penting bagi para pemimpin bisnis dan industri untuk mendidik diri mereka sendiri tentang ISO/IEC 42001 – sebuah sistem manajemen AI yang meletakkan dasar bagi penggunaan AI yang etis, aman, dan berpikiran maju di berbagai aplikasinya. Ini adalah tindakan penyeimbangan, dan pemahaman yang lebih jelas tentang keseimbangan ini dapat membantu kita mengatasi kendala dalam perjalanan AI kolektif kita.
Sumber : ISO
