Memang judul dari tulisan ini agak lebay, mohon untuk dimaklumi. Tetapi saya akan menjelaskan apa yang dimaksudkan dengan “Pertobatan atas penggunaan AI”. Dengan sedikit latar belakang.

Penggunaan dari AI, tidak bisa dihindari lagi untuk saat ini. Banyak hal yang menggunakan AI untuk memudahkan banyak hal dan itu tidak apa-apa. Namun ada salah satu yang terlalu berlebihan menurut saya jika kita coba melihat AI company, seperti Antropic dan OpenAI terlalu melebih-lebihkan bahwa manusia akan selesai. Sebenarnya terjadi adalah usaha mereka agar kita berbondong-bondong agar melakukan langganan terhadap AI service mereka.

Kini terhadap diri saya sendiri sebagai individu, mungkin beberapa minggu ke belakang sedang ramai penggunaan AI agent (openclaw, hermes) sebagai personal asistent yang bisa diberi perintah untuk mengerjakan beberapa tugas yang bisa dilakukan dengan automasi. Katakan seperti menulis email, mencatat keuangan, dan berbagai hal.

Untuk melakukan cukup mudah, hanya bermodal $10/tahun VPS dari tencent dan api key gratisan untuk model llm (banyak yang menyediakan service sebagai bentuk promo).

Salah satu yang cukup ramai di circle saya adalah menggunakan AI agent sebagai pentester (mencari bug dari sebuah website atau smartcontract) hal ini mencakup web2 dan web3.

Hal dilakukan sangatlah sederhana yaitu membuat skill untuk melakukan pentest (kadang ada yang membagikan juga) dan jadi hasil akhir report. Untuk setiap kali melakukan pentesting hanya input url dari target atau sebuah file markdown yang menjelaskan target, scope dan lain sebagainya. Dan akhirnya melakukan report hasil dari agent tersebut.

Terlihat sangat mudah dan gampang (benar sekali), tugas kita hanya memberi target dan melaporkan report dari hasil agent tersebut.

Permasalahan yang muncul adalah ketika report yang kita hasilkan ketika triager coba mencobanya menghasilkan duplicate, not applicable atau false positive. Saya langsung berpikir bahwa triager tidak mengerti yang apa yang ia sedang lakukan (tidak menutup kemungkinan bahwa memang ada beberapa kasus triager yang seperti itu). Bukankah yang tidak mengerti itu saya sendiri dengan mentah-mentah menyerahkan report tersebut (kadang melakukan cek false positive dengan agent tersebut atau secara manual, tetap saja masih tidak mengerti karena gap pengetahuan). Marah terhadap project atau triager tersebut, bukankah saya sendiri yang harus berpikir. Memang AI agent juga tidak menutup kemungkinan untuk menghasilkan bug yang valid, namun kembali ke diri saya sendiri apakah mengerti apa yang sedang saya lakukan?

Disini lah yang menjadi keresahan saya yang semakin hari semakin menguat. Perasaan muak atas terhadap semua hal ini. Apakah kemarahan saya disebabkan karena orang lain karena mampu menghasilkan sesuatu sedangkan saya tidak? Atau sekedar bentuk dari hipokrasi?

Namun jika ini jika membicarakan diri saya sendiri. Ada keresahan dari penggunaan AI agent yaitu jika tanpa didukung pengertian apa yang sedang dilakukan itu bagai hal yang sia-sia. Mungkin, kamu pernah melihat meme monyet diberikan AK47. Kurang lebihnya akan menjadi seperti itu.

Semakin hari semakin tidak belajar hanya melakukan hal-hal yang tidak dimengerti secara terus menurus tanpa ada rasa ingin tahu yang lebih dalam untuk mengetahui bagaimana cara kerja dari hal ini. Akan hilang proses berpikir kritis jika semua proses dilakukan oleh AI. Bukan berarti saya anti AI, namun keresahan yang lain itu mengenai penyerahan proses berpikir kritis manusia terhadap mesin.

AI dapat digunakan dengan cara lebih baik, ibarat levarage jika dalam trading. Dengan syarat saya perlu mengerti dahulu apa yang saya ingin lakukan, sehingga dapat mengkritisi hasilnya. Dapat juga digunakan sebagai mentor untuk membantu proses sebagai individu yang ingin berkembang. Sebagai patner, untuk melakukan tugas-tugas boring dan saran ide saat brainstroming.

Jika semua itu dilakukan, apa arti dari manusia itu sendiri pada akhirnya?