Penerbitan Ke-9
PERSPEKTIF DAN PANDANGAN GLOBAL
Kecerdasan Buatan (Artificial Intelligence/AI) Pertimbangan untuk Profesi Audit Internal
Edisi Khusus
2
globaliia.org
Tentang IIA
Daftar Isi
Institute of Internal Auditor (IIA)
adalah advokat, pendidik, dan
penyedia standar, panduan, dan
sertifikasi profesi audit internal yang
paling banyak dikenal. Didirikan pada
tahun 1941, IIA saat ini melayani lebih
dari 190.000 anggota dari lebih dari
170 negara dan teritori. Kantor pusat
global IIA berada di Lake Mary,
Florida, AS. Untuk informasi lebih
lanjut, kunjungi www.globaliia.org.
Pendahuluan...........................................................................................2
Feedback Pembaca
Peran Audit Internal...............................................................................5
Kirimkan pertanyaan dan komentar ke
globalperspectives@theiia.org.
Penerbitan Sebelumnya
Penerbitan isu isu dan pembahasan
berbagai topik dalam Perspektif dan
Pandangan Global sebelumnya dapat
ditemukan di www.theiia.org/gpi.
Konteks Artificial Intelligence (AI)...........................................................2
AI – Hal Hal Mendasar............................................................................3
Big Data dan Algoritma....................................................................3
Jenis Jenis AI.....................................................................................4
Peluang dan Risiko AI..............................................................................4
Peluang.............................................................................................5
Risiko................................................................................................5
Kompetensi AI: Menutup Celah Pemahaman..................................6
Memperkuat Ketahanan Cyber........................................................7
Kerangka Audit AI...................................................................................7
Strategi.............................................................................................7
Komponen........................................................................................8
Kesimpulan.............................................................................................9
Disclaimer
Pendapat yang diungkapkan dalam
Perspektif dan Pandangan Global
tidak mewakili pendapat pribadi
kontributor atau organisasi dimana
kontributor bekerja.
Hak Cipta
Hak Cipta © 2017 oleh The Institute
of Internal Auditors, Inc.
Diterjemahkan dan diselaraskan oleh IIA Indonesia Volunteers:
1. I Made Suandi Putra MSc, CIA, CRMP
2. Yullyan, SE, MAk, Ak., CPA, CIA, CA
globaliia.org
1
Kecerdasan Buatan (Artificial Intelligence/AI)
Pertimbangan Untuk Profesi Audit Internal
Pendahuluan
Kecerdasan Buatan (AI) adalah istilah umum yang
mengacu pada teknologi yang mampu membuat mesin
menjadi "cerdas." Organisasi berinvestasi dalam
penelitian dan aplikasi AI untuk mengotomatisasi,
meningkatkan, atau mereplikasi kecerdasan manusia analisis dan pengambilan keputusan manusia - dan
profesi audit internal harus siap untuk berpartisipasi
penuh dalam inisiatif organisasi dalam menerapkan AI.
Ada banyak istilah lain yang terkait dengan AI, seperti,
deep learning (pembelajaran mendalam), machine
learning (mesin yang mampu belajar), pengenalan
gambar, pemrosesan bahasa alami, cognitive computing
(komputasi yang mampu mengenali sesuatu), amplifikasi
kecerdasan,
peningkatan
kognitif,
peningkatan
kecerdasan mesin, dan peningkatan kecerdasan. AI, yang
digunakan dalam pembahasan ini, mencakup semua
konsep dan istilah diatas.
Konteks Artificial Intelligence (AI)
AI bukan hal yag baru. Menurut makalah diskusi
McKinsey Global Institute's (MGI) "Artificial Intelligence:
The Next Digital Frontier," gagasan AI sudah ada sejak
tahun 1950 ketika Alan Turing pertama kali
mengemukakan
bahwa
sebuah
mesin
dapat
berkomunikasi dengan cukup baik untuk meyakinkan
seorang manusia yang bertindak sebagai evaluator
bahwa mesin tersebut juga adalah manusia.
AI mewakili serangkaian kemajuan signifikan dalam
teknologi, namun ini bukanlah kemajuan yang pertama,
dan sepertinya tidak akan menjadi yang terakhir.
Melihat kembali pada beberapa dekade terakhir,
kemunculan komputer, PC, spreadsheet, database
relasional, konektivitas yang canggih, dan kemajuan
teknologi serupa, semuanya mempengaruhi bagaimana
organisasi beroperasi dan mencapai tujuan mereka. AI
siap melakukan hal yang sama dengan potensi untuk
menjadi atau lebih
disruptive (menyebabkan
2
globaliia.org
perubahan) daripada
sebelumnya.
banyak
kemajuan
teknologi
AI dapat dipandang sebagai kemajuan signifikan terbaru
dalam rangkaian kemajuan yang telah terjadi dalam
perkembangan
teknologi.
Apa
yang
menjadi
perkembangan terbaru adalah kemajuan dan skalabilitas
teknologi yang membuat penerapan AI dapat
dipergunakan secara praktis (practical).
Penerapan ini ditunjukkan secara terbuka kepada
khalayak luas pada tahun 2011 saat platform AI milik
IBM, yaitu IBM Watson, mampu menjadi pemenang
dalam sebuah acara kuis Jeopardy!. Menurut IBM
Research, IBM "dipandu oleh istilah 'augmented
intelligence' daripada 'artificial intelligence', dan
berfokus pada pengembangan aplikasi AI yang praktis
dan dapat membantu orang-orang dalam sebuah tugas
yang terdefinisi dengan baik." Keahlian manusia dapat
mengembangkan teknologi untuk membuat mesin
cerdas, dan mesin yang cerdas, selanjutnya, lebih
meningkatkan kemampuan manusia.
Penerapan AI sudah terjadi di berbagai sektor (publik,
swasta, pemerintah, dan nirlaba) dan industri. Dibawah
ini merupakan contoh dimana AI memungkinkan
sejumlah kemampuan baru yang masih mustahil
beberapa tahun yang lalu:

Pabrikan otomotif mengembangkan kendaraan yang
mampu menyetir sendiri (self-driving).

Mesin
pencari
online
yang
mampu
merekomendasikan hasil pencarian yang diinginkan.

Media sosial mampu mengenali wajah dalam foto
dan menyaring berita berita.

Perusahaan media mampu merekomendasikan buku
buku dan pertunjukan kepada para pelanggannya.

Toko retail yang mampu membuat pengalaman
online yang dipersonalisasi bagi para pelanggan
Global Perspectives: Artificial Intelligence

Perusahaan logistik yang mampu menemukan jalur
pengiriman paling optimal

Pemerintah mampu memperkirakan sebuah epidemi
penyakit.

Profesional pemasaran memberikan konten yang
dipersonalisasi secara personal kepada pelanggan
secara real time.

Asisten virtual menggunakan bahasa alami untuk
berinteraksi dengan konsumen.
Tapi bukan hanya aktivitas baru saja yang dipengaruhi AI.
Aktivitas rutin yang telah dipraktekkan selama beberapa
dekade turut terpengaruh dan dapat ditingkatkan
kualitasnya oleh AI seperti pe-modelan rugi, analisa
kredit, penilaian, pemrosesan transaksi, dan sejumlah hal
lainnya.
Sangat penting bagi auditor internal untuk
memperhatikan penerapan praktis AI dalam bisnis, dan
mengembangkan kompetensi yang memungkinkan
profesi audit internal untuk memberikan layanan
konsultasi dan assurance atas AI yang diterapkan
organisasi di semua sektor dan di semua industri.
AI bergantung pada Big Data dan Algoritma, hal ini
mungkin dapat mengintimidasi, terutama untuk kegiatan
audit internal dan organisasi yang belum menguasai Big
Data. Namun auditor internal tidak harus menjadi
seorang Data Scientist atau analis kuantitatif untuk
memahami apa yang AI dapat lakukan untuk organisasi,
pemerintah, dan masyarakat pada umumnya.
Tulisan ini:


Menyajikan overview dasar-dasar AI.


Membahasa risiko dan peluang penerapan AI.
Mengeksplorasi
penerapan AI.
peran
audit
internal
dalam
Menyajikan kerangka kerja bagi auditor internal (the
Framework).
Tulisan ini adalah Bagian I dari tiga seri. Bagian II dan III
akan memberikan informasi lebih rinci tentang Kerangka
Kerja dan penerapan praktisnya.
FOKUS AUDIT
Standard IIA 1210: Proficiency (Kutipan)
Auditor internal harus memiliki pengetahuan,
keterampilan, dan kompetensi lain yang
diperlukan untuk melaksanakan tanggung jawab
individualnya. Kegiatan Audit Internal secara
kolektif harus memiliki atau memperoleh
pengetahuan, keterampilan, dan kompetensi lain
yang diperlukan untuk melaksanakan tanggung
jawabnya.
1210.A3 –
Auditor internal harus memiliki
pengetahuan yang cukup mengenai risiko dan
pengendalian teknologi informasi utama dan
teknik audit berbasis teknologi untuk melakukan
pekerjaan mereka. Namun, tidak semua auditor
internal
diharapkan
memiliki
keahlian
sebagaimana yang dimiliki auditor yang tanggung
jawab utamanya adalah audit teknologi informasi.
AI – Hal Hal Mendasar
Big Data dan Algoritma
AI dijalankan melalui algoritma tertentu, dan algoritma
tersebut menggunakan Big Data, jadi sebelum sebuah
organisasi memulai penggunaan AI, organisasi harus
memiliki dasar yang kuat dalam Big Data. Dan sebelum
audit internal berpikir untuk menangani AI, seharusnya
mereka sudah memiliki pondasi yang kuat dalam Big
Data. Untuk panduan komprehensif dalam memahami
dan mengaudit Big Data, termasuk diskusi tentang
peluang, risiko, dan contoh program kerja, dapat melihat
GTAG IIA tentang “Memahami dan Mengaudit Big Data”,
yang tersedia gratis untuk anggota IIA, dan juga tersedia
untuk
non-anggota
melalui
Toko
Buku
IIA
(www.theiia.org).
Big Data memiliki arti lebih dari sekedar data dalam
jumlah besar – Big Data mengacu pada data (informasi)
yang memiliki volume, variasi, kecepatan, dan variabilitas
tinggi yang diinvestasikan oleh organisasi dalam
arsitektur sistem, peralatan, dan praktik yang dirancang
khusus untuk menangani data. Sebagian besar data ini
dihasilkan oleh organisasi itu sendiri, sementara data lain
globaliia.org
3
mungkin tersedia untuk umum atau dibeli dari sumber
eksternal.
Untuk menggunakan Big Data dengan baik, organisasi
harus mengembangkan algoritma. Algoritma adalah
seperangkat aturan atau prosedur yang harus diikuti oleh
mesin. Algoritma inilah yang memungkinkan sebuah
mesin untuk memproses sejumlah data dengan cepat,
yang mungkin tidak mampu diproses atau dipahami
manusia dalam waktu dan dengan cara yang masuk akal.
Kinerja dan keakuratan algoritma sangat penting.
Algoritma pada awalnya dikembangkan oleh manusia,
sehingga human error dan bias (baik disengaja maupun
tidak disengaja) akan berdampak pada kinerja algoritma.
Algoritma yang salah dapat menyebabkan gangguan
minor atau menyebabkan sebuah bencana besar dalam
operasi organisasi. Secara umum diketahui bahwa
algoritma cacat, setidaknya sebagian, memicu krisis
keuangan global tahun 2008.
Jenis Jenis AI
Dalam Perbincangan "Memahami Empat Jenis AI, dari
Robot Yang Reaktif sampai menjadi Sesuatu Yang
Memiliki Kesadaran Sendiri," Arend Hintze, asisten
profesor Biologi Integratif & Ilmu Komputer dan Teknik di
Michigan State University, menguraikan empat jenis AI:
Type I.
Type II.
4
Reactive machines: Jenis ini merupakan AI
yang paling sederhana. Reactive machines
menanggapi situasi yang sama dengan cara
yang persis sama, setiap saat. Contoh dari ini
adalah mesin yang bisa mengalahkan pemain
catur kelas dunia karena telah diprogram
untuk mengenali semua bagian catur,
mengetahui bagaimana bagian catur tersebut
bergerak, dan bisa memprediksi pergerakan
berikutnya dari setiap pemain.
Limited memory: Mesin AI Limited memory
dapat melihat ke masa lalu, namun tidak
melakukan penyimpanan memory. Mesin
Limited memory tidak bisa membangun
memory atau "belajar" dari pengalaman masa
lalu. Contohnya adalah kendaraan yang
bergerak sendiri (self-driving vehicle) yang bisa
memutuskan untuk mengganti jalur karena
beberapa saat yang lalu ia mencatat adanya
hambatan di jalurnya.
globaliia.org
Type III.
Theory of mind: Theory of mind mengacu pada
gagasan bahwa sebuah mesin dapat
mengenali bahwa orang lain yang berinteraksi
dengannya memiliki pikiran, perasaan, dan
harapan. Mesin yang disematkan pada Tipe III
AI dapat memahami pikiran, perasaan, dan
harapan orang lain, dan dapat menyesuaikan
tingkah lakunya sendiri.
Type IV. Self-awareness: Sebuah mesin dengan AI Tipe
IV memilki kesadaran diri. Hal ini merupakan
pengembangan dari Theory of Mind, dimana
mesin memiliki kesadaran akan dirinya sendiri,
tahu tentang keadaan internalnya, dan dapat
memprediksi perasaan orang lain.
Dengan kata lain, kendaraan self-driving dengan AI Tipe II
akan memutuskan untuk mengubah jalur saat pejalan
kaki berada di jalurnya, karena mesin mengenali pejalan
kaki sebagai penghalang. Kendaraan self-driving dengan
AI tipe III akan mengerti bahwa pejalan kaki akan
mengharapkan dia berhenti, dan kendaraan self-driving
dengan AI tipe IV akan tahu bahwa dia harus berhenti
karena itulah yang dia inginkan seandainya dia berada
pada jalur kendaraan lain yang sedang melaju dari arah
berlawanan. Wow.
Sebagian besar "Mesin Cerdas" saat ini adalah
manifestasi AI Tipe I atau Tipe II. Inisiatif penelitian dan
pengembangan yang berkelanjutan akan memungkinkan
organisasi untuk maju menuju aplikasi praktis dari AI Tipe
III dan Tipe IV.
Peluang dan Risiko AI
Langkah awal untuk memahami peluang dan risiko bagi
organisasi dalam penerapan AI adalah memahami secara
menyeluruh peluang dan risiko Big Data bagi organisasi.
Sekali lagi, untuk panduan komprehensif dalam
memahami dan mengaudit Big Data, termasuk diskusi
tentang peluang, risiko, dan contoh program kerja, dapat
melihat GTAG IIA tentang “Memahami dan Mengaudit
Big Data”, yang tersedia gratis untuk anggota IIA, dan
juga tersedia untuk non-anggota melalui Toko Buku IIA
(www.theiia.org).
Global Perspectives: Artificial Intelligence
Contoh dari peluang dan risiko penerapan AI adalah:
FOKUS AUDIT
Peluang
Standar IIA 2120: Risk Management (Kutipan)

Kemampuan
untuk
pengolahan data.

Kemampuan untuk mengurangi kesalahan dengan
mengganti tindakan tindakan yang dilakukan
manusia dengan tindakan mesin yang dilakukan
secara berulang dengan sempurna.




mempersingkat
siklus
Kegiatan audit internal harus mengevaluasi
efektifitas
dan
berkontribusi
terhadap
peningkatan proses manajemen risiko.
2120.A1 – Kegiatan audit internal harus
mengevaluasi eksposur risiko yang berkaitan
dengan tata kelola, operasi, dan sistem informasi
organisasi mengenai:
Kemampuan untuk mengganti aktivitas yang semula
membutuhkan waktu lama dengan aktivitas yang
lebih hemat waktu (otomatisasi proses), mengurangi
waktu dan biaya tenaga kerja.
Kemampuan untuk menempatkan robot atau drone
untuk menggantikan manusia dalam situasi yang
berpotensi bahaya.
Kemampuan untuk membuat prediksi yang lebih
baik, mulai dari memprediksi penjualan barang
tertentu di pasar tertentu hingga memprediksi
epidemi dan malapetaka alam.
Kemampuan untuk menghasilkan pendapatan dan
meningkatkan pangsa pasar melalui inisiatif
penggunaan AI.
Risiko

Risiko bahwa “bias” manusia yang tidak
teridentifikasi akan tertanam dalam teknologi AI.

Risiko kesalahan logika manusia akan tertanam
dalam teknologi AI.

Risiko bahwa pengujian dan pengawasan terhadap
AI tidak memadai, sehingga menghasilkan sesuatu
yang dapat dipertanyakan secara etika.

Risiko bahwa produk dan layanan AI akan
membahayakan, mengakibatkan kerusakan finansial
dan/atau reputasi.

Risiko bahwa pelanggan atau pemangku kepentingan
lainnya tidak akan menerima atau mengadopsi
inisiatif penggunaan AI organisasi.

Risiko bahwa organisasi akan kalah dari pesaing jika
tidak berinvestasi di AI.



Pencapaian tujuan organisasi.



Efektifitas dan Efisiensi operasi dan program.
Keandalan dan Integritas informasi keuangan
dan operasional.
Pengamanan asset.
Kepatuhan terhadap hukum, peraturan,
kebijakan, prosedur, dan kontrak.
Risiko bahwa investasi di AI (infrastruktur, penelitian
dan pengembangan, dan akuisisi sumber daya
manusia) tidak akan menghasilkan ROI yang
diharapkan.
Informasi lebih mendalam tentang risiko AI akan
dipaparkan di Bagian II dan III dari seri Perspektif dan
Pandangan Global ini, yang memberikan rekomendasi
pemanfaatan Kerangka (Framework) dalam memberikan
jasa assurance dan konsultasi terkait AI akan dijelaskan.
Peran Audit Internal
Audit internal mahir dalam mengevaluasi dan memahami
risiko dan peluang terkait kemampuan organisasi dalam
mencapai
tujuannya.
Dengan
memanfaatkan
kemampuan ini, audit internal dapat membantu
organisasi dalam mengevaluasi, memahami, dan
mengkomunikasikan sejauh mana AI memberi dampak
(negatif atau positif) pada kemampuan organisasi untuk
menciptakan nilai dalam jangka pendek, menengah, atau
panjang. Audit internal dapat melakukan setidaknya lima
aktivitas penting yang terkait dengan kecerdasan buatan:
globaliia.org
5

Untuk seluruh organisasi, audit internal harus
memasukkan AI dalam penilaian risikonya dan
mempertimbangkan apakah akan menyertakan AI
dalam rencana audit berbasis risikonya.

Bagi organisasi yang sedang mengeksplorasi AI, audit
internal harus dilibatkan secara aktif dalam proyek
AI sejak awal, untuk dapat memberikan saran dan
masukan yang berkontribusi terhadap keberhasilan
implementasi. Namun, untuk menghindari persepsi
atau penurunan aktual terhadap independensi dan
objektivitas, audit internal seharusnya tidak
memiliki, atau bertanggung jawab atas, pelaksanaan
proses, kebijakan, atau prosedur AI.



Untuk organisasi yang telah menerapkan beberapa
aspek AI, baik dalam operasinya (seperti pabrikan
yang menggunakan robot pada kegiatan produksi)
atau digabungkan ke dalam produk atau layanan
(seperti retailer yang menyesuaiakn penawaran
produk kepada pelanggan berdasarkan riwayat
pembelian), audit internal harus memberikan
keyakinan (assurance) terhadap pengelolaan risiko
terkait dengan keandalan algoritma dan data yang
dipergunakan.
Audit internal harus memastikan isu moral dan etika
yang mungkin ada di sekitar penggunaan AI telah
dipertimbangkan dan dinilai.
Seperti penggunaan sistem lainnya, struktur tata
kelola (governance) yang baik perlu dibentuk dan
audit internal dapat memberikan assurance
mengenai governance tersebut.
Terlepas dari aktivitas spesifik yang perlu dilakukan, audit
internal sangat sesuai untuk menjadi kontributor utama
pada kegiatan terkait dengan AI organisasi, karena Audit
Internal:


6
Memahami tujuan strategis organisasi dan proses
yang diimplementasikan untuk mencapai tujuan
tersebut.
Mampu mengevaluasi apakah kegiatan AI mencapai
tujuan penerapannya.
globaliia.org

Dapat memberikan keyakinan (assurance) internal
atas aktivitas pengelolaan manajemen risiko yang
relevan dengan risiko AI.

Dianggap sebagai penasihat terpercaya yang dapat
mendukung secara positif adopsi AI untuk
memperbaiki proses bisnis atau meningkatkan
kualitas produk dan layanan.
Audit internal harus menangani AI seperti menangani
hal hal yang lainnya - dengan metode yang sistematis
dan disiplin untuk mengevaluasi dan meningkatkan
efektivitas proses manajemen, pengendalian, dan tata
kelola risiko yang berkaitan dengan AI.
Kompetensi AI: Menutup Celah Pemahaman
Profesional dalam bidang teknologi yang memiliki
keahlian di bidang AI jumlahnya tidak banyak. Organisasi
yang ingin berpartisipasi dalam revolusi AI perlu
mengembangkan atau mendapatkan sumber daya
manusia dengan kompetensi di banyak bidang seperti:


Pemrosesan Bahasa secara Natural.







Algoritma dan Pemodelan tingkat lanjut.

Robotics.
Antarmuka Program Aplikasi/Application program
interfaces (APIs) seperti pengenalan wajah, analisa
gambar, and analisa teks.
Teori Probabilitas dan Statistik Terapan.
Analisis Data.
Rekayasa Perangkat Lunak.
Bahasa Pemrograman.
Mesin yang mampu belajar/Machine learning.
Computer vision, dimana komputer dapat mengenali
unsur unsur dalam gambar dan video.
Meskipun saat ini hanya sedikit organisasi di bidang
teknologi, otomotif, manufaktur, jasa keuangan, dan
industri utilitas yang tampaknya memimpin revolusi
AI, sulit membayangkan ada organisasi yang tidak akan
terpengaruh oleh AI. Sama seperti komputer,
spreadsheet, dan pemrosesan terdistribusi yang
Global Perspectives: Artificial Intelligence
diterapkan secara terbatas pada tahap awal, pada
akhirnya semua organisasi mengadopsi aspek
teknologi tersebut. Ketika AI pada saatnya nanti
menjadi lebih umum diterapkan, kegiatan audit
internal harus siap untuk menyediakan layanan
assurance dan konsultasi terkait AI.
Bagaimana CAE dapat meningkatkan skills auditor
internal agar siap menghadapi tantangan? Langkah
pertama adalah menyadari bahwa serangkaian
keterampilan baru memang dibutuhkan. Secara kolektif,
aktivitas audit internal harus memiliki pemahaman AI
yang memadai, bagaimana organisasi menggunakannya,
dan risiko AI bagi organisasi. CAE harus dapat
mengkomunikasikan pemahaman ini kepada manajemen
senior, dewan, dan komite audit. Tempat yang baik untuk
memulai adalah dengan membaca IIA Thought
Leadership tentang AI, dan panduan tambahan IIA
mengenai topik seperti Big Data dan Talent
Management.
Memperkuat Ketahanan Cyber
Ancaman keamanan cyber terus meningkat. Adopsi dan
evolusi AI akan memaksa organisasi untuk terus
memperkuat kembali kemampuan ketahanan cyber
mereka. Karena AI menjadi lebih powerful dan lebih
banyak keputusan diserahkan ke algoritma baru, rumit,
membingungkan, dan menggunakan kumpulan data yang
besar, maka melindungi sistem ini dari ancaman yang
berasal dari luar organisasi menjadi sangat penting dalam
mencapai kesuksesan. Laporan EY 2014 mendefinisikan
ketahanan cyber sebagai kemampuan untuk melawan,
bereaksi, dan pulih dari serangan cyber - dan
memodifikasi lingkungan untuk meningkatkan keamanan
dan keberlanjutan operasi dari waktu ke waktu.
Ketahanan Cyber sangat penting bagi organisasi
manapun yang semakin bergantung pada AI.
Di antara semua kompleksitas seputar keamanan cyber,
ada empat area utama dimana kegiatan audit internal
dapat memberikan dampak secara langsung:

Memberikan keyakinan (assurance) atas kesiapan
dan respon terhadap ancaman cyber.

Mengkomunikasian level risiko dan upaya
penangangan risiko kepada Eksekutif dan Dewan.

Berkolaborasi dengan bagian IT dan pihak lainnya
untuk meyakinkan sistem pertahanan dan respon
yang efektif telah tersedia.

Memfasilitasi komunikasi dan melakukan koordinasi
terkait risiko-risiko dengan semua pihak dalam
organisasi.
Pelanggaran terhadap keamanan Cyber AI yang
dampaknya berpotensi bencana bukanlah hal yang
terlalu dilebih lebihkan. Jika organisasi belum memiliki
ketahanan cyber yang kuat, maka CAE harus segera
berinisiatif mendorong diperkuatnya keamanan cyber
tersebut.
Kerangka Audit AI
Kerangka Audit AI terdiri dari 6 komponen, dan
semuanya ditetapkan sesuai dengan konteks strategi AI
organisasi.
Strategi
Strategi AI masing-masing organisasi akan berbeda
sesuai dengan pendekatan masing masing dalam
memanfaatkan peluang yang diberikan AI. Strategi AI
organisasi mungkin merupakan perluasan strategi data
digital atau Big Data organisasi secara keseluruhan organisasi dengan penerapan strategi digital/big-data
yang dikembangkan dengan baik akan berada satu
langkah di depan dalam penerapan AI. Menurut MGI,
organisasi yang "menggabungkan kemampuan digital
yang kuat, adopsi AI yang menyeluruh, dan strategi
yang proaktif memiliki kinerja keuangan yang kuat."
Audit internal harus mempertimbangkan strategi AI
organisasi terlebih dahulu. Apakah organisasi memiliki
strategi yang jelas untuk penerapan AI? Apakah
organisasi mengeluarkan investasi dalam penelitian dan
pengembangan AI? Apakah ada proses identifikasi
ancaman, peluang AI dan langkah-langkah mitigasi
risiko AI? AI dapat menjadi keunggulan kompetitif bagi
organisasi, dan audit internal harus membantu
manajemen dan dewan direksi untuk menyadari
pentingnya merumuskan strategi AI yang sesuai dengan
tujuan organisasi.
globaliia.org
7
Komponen
Mengukur Kinerna AI
Tata Kelola AI
Seiring organisasi mengintegrasikan AI ke dalam aktivitas
mereka, ukuran kinerja harus didefinisikan untuk
mengaitkan aktivitas AI ke tujuan bisnis dan secara jelas
menggambarkan apakah AI secara efektif mendukung
pencapaian tujuan tersebut. Manajemen harus secara
aktif memantau kinerja kegiatan AI-nya.
Tata kelola AI mengacu pada struktur, proses, dan
prosedur yang diterapkan untuk mengarahkan,
mengelola, dan memantau aktivitas AI organisasi dalam
mencapai tujuan organisasi. Tingkat formalitas dan
struktur tata kelola perusahaan AI akan bervariasi
berdasarkan karakteristik spesifik organisasi tersebut.
Terlepas dari pendekatan spesifik, tata kelola AI
menetapkan mekanisme pertanggungjawaban dan
pengawasan, membantu memastikan bahwa mereka
yang bertanggung jawab memiliki keterampilan dan
keahlian yang diperlukan untuk memantau AI secara
efektif, dan membantu memastikan nilai organisasi
tercermin dalam aktivitas AI-nya. Poin terakhir ini tidak
boleh diabaikan atau kurang mendapat perhatian.
Kegiatan AI harus menghasilkan keputusan dan
tindakan yang sesuai dengan tanggung jawab etis,
sosial, dan hukum organisasi.
Faktor Manusia
Algoritma dikembangkan oleh manusia. Kesalahan dan
bias manusia (baik disengaja maupun tidak disengaja)
akan berdampak pada kinerja algoritma. Komponen
faktor
manusia
diperhitungkan
untuk
mempertimbangkan apakah:

Risiko bias manusia yang tidak disengaja
kemungkinan termasuk dalam desain AI telah
diidentifikasi dan dikelola.

Pengujian terhadap efektifitas AI telah dilakukan
untuk meyakinkan bahwa hasil AI sesuai dengan
tujuan awalnya.

Teknologi AI bisa transparan mengingat teknologi
tersebut bersifat rumit.

Output AI digunakan secara legal, etis, dan
bertanggung jawab.
Arsitektur dan Infrastruktur Data
Arsitektur dan infrastruktur AI kemungkinan besar
menggunakan arsitektur dan infrastruktur yang sama
dengan Big Data. Hal ini termasuk pertimbanganpertimbangan untuk:

Cara mengakses data (metadata, taxonomy,
identifikasi yang unik, dan konvensi penamaan).

Privasi informasi dan keamanan di seluruh siklus
pengolahan data (pengumpulan data, penggunaan,
penyimpanan, dan penghancuran).

Peran dan tanggung jawab untuk kepemilikan dan
penggunaan data sepanjang siklus pengolahan data.
Kualitas Data
Kelengkapan, keakuratan, dan reliabilitas data yang
digunakan oleh Algoritma AI sangat penting. Sayangnya,
hal yang biasanya terjadi, organisasi memiliki struktur
data yang tidak didefinisikan secara jelas dan tidak
koheren. Seringkali, sistem tidak berkomunikasi satu
sama lain atau komunikasi dilakukan melalui add-on atau
kustomisasi yang rumit. Bagaimana data disatukan,
disarikan, dan divalidasi memegang peranan sangat
penting.
8
globaliia.org
Secara umum kesalahan manusia adalah penyebab
utama dari pelanggaran privasi dan keamanan informasi.
Demikian pula, komponen faktor manusia menjadi hal
utama untuk mengatasi risiko kesalahan manusia yang
dapat memperlemah kemampuan AI untuk memberikan
hasil yang diharapkan.
Faktor Kotak Hitam (Black Box)
Menurut kamus online Merriam-Webster, Kotak Hitam
adalah "perangkat elektronik yang biasanya rumit yang
mekanisme dasarnya tersembunyi atau misterius bagi
pengguna; secara umum: apapun yang memiliki fungsi atau
mekanisme internal yang misterius atau tidak dikenal. "
Seiring kemajuan organisasi dalam menerapkan teknologi
AI Tipe III dan Tipe IV yang memanfaatkan mesin atau
platform yang dapat belajar sendiri atau berkomunikasi
satu sama lain, mekanisme algoritma beroperasi menjadi
tidak transparan atau sulit difahami. Faktor kotak hitam
Global Perspectives: Artificial Intelligence
akan semakin menjadi tantangan karena aktivitas AI
organisasi menjadi lebih canggih.
Kesimpulan
Profesi audit internal tidak boleh tertinggal dalam apa
yang mungkin menjadi kemajuan digital berikutnya, yaitu
Artificial Intelligence (Kecerdasan Buatan). Untuk
mempersiapkan diri, auditor internal harus memahami
dasar-dasar AI, peran yang harus dilakukan oleh audit
internal, dan risiko dan peluang AI. Untuk memenuhi
tantangan ini, auditor internal harus memanfaatkan
Kerangka ini dalam melakukan metode yang sistematis
dan disiplin untuk mengevaluasi dan meningkatkan
efektivitas proses manajemen risiko, pengendalian, dan
tata kelola organisasi yang berkaitan dengan AI.
Makalah ini adalah Bagian I dari seri tiga bagian. Bagian II
akan memberikan informasi dan rekomendasi lebih rinci
mengenai Tata Kelola AI; Arsitektur Data dan
Infrastruktur; dan komponen Kualitas Data. Bagian III
akan memberikan informasi dan rekomendasi lebih rinci
mengenai komponen Pengukuran Kinerja, Faktor
Manusia, dan komponen Black Box. Bagian II dan III akan
mencakup tujuan dan prosedur penugasan yang relevan
yang dapat digunakan oleh kegiatan audit internal untuk
menyesuaikan program audit AI agar sesuai dengan profil
risiko dan tujuan strategis organisasi mereka.
FOKUS AUDIT
Standar IIA Utama Yang Relevan Untuk AI
Standar Internasional IIA untuk Praktik Profesional
Audit Internal mencakup beberapa standar yang
sangat relevan bagi AI, termasuk:

Standar IIA 1210: Kemampuan Professioal
(Proficiency)


Standar IIA 2010: Perencanaan (Planning)

Standar IIA 2100: Sifat Pekerjaan (Nature of
Work)



Standar IIA 2110: Tata Kelola (Governance)

Standar IIA
2201: Pertimbangan dalam
Perencanaan (Planning Considerations)

Standar IIA
2210: Tujuan
(Engagement Objectives)

Standar IIA 2220: Ruang Lingkup Penugasan
(Engagement Scope)

Standar IIA 2230: Alokasi Sumber Daya untuk
Penugasan (Engagement Resource Allocation)

Standar IIA 2240: Program Kerja Penugasan
(Engagement Work Program)

Standar IIA 2310: Mengidentifikasi Informasi
(Identifying Information)
Standar IIA 2030: Manajemen Sumber Daya
(Resource Management)
Standar IIA 2130: Pengendalian (Control)
Standar IIA 2200: Perencanaan Penugasan
(Engagement Planning)
Penugasan
Teks lengkap untuk Standar tersedia di
www.theiia.org. Setiap standar dilengkapi dengan
Panduan Implementasi.
globaliia.org
9
10
globaliia.org
globaliia.org