Setelah mengagumi OpenClaw dalam beberapa bulan ternyata saya sadar kalau kegiatan dari OpenClaw itu benar-benar menguras token saya. Untungnya saya beli dari LLM provider yang murah, dimana per 1 juta token hanya kira-kira seribu perak. Tapi ternyata tidak semudah itu fergusow!
Prompt Banyak
Platform OpenClaw memang benar-benar memanjakan para penggunanya. Bagaimana tidak, kamu ngetik apapun nanti dia langsung otomatis menyimpan query yang dibutuhkan, dan akan belajar skill yang dibutuhkan usernya.
Dengan banyaknya prompt dan aturan yang dibuat, maka otomatis file md yang menjadi acuan si AI dalam mengeksekusi perintah dan menganalisa perintah menjadi lebih banyak. Dengan menjadi lebih banyak prompt kata-katanya, maka ketika masuk ke hitungan token bakal cenderung lebih tinggi.
Dari pengalaman saya saja, untuk output IRC dan beberapa aturan yang saya set ke dalam agent AI nya, itu bisa mencapai 40 Tokens atau kurang lebih 40 ribu token untuk input saja. Output biasanya sangat kecil, kurang dari 1 ribu token.
Tidak cocok untuk intensif
Jadi saya berkesimpulan kalau OpenClaw sangat tidak rekomended jika digunakan pada task yang intensif dan sifatnya pengulangan berulang setiap hari. Karena jelas, kalau kamu masih bayar token, tentu ini sangat boros. Kecuali, kamu built AI sendiri menggunakan resource sendiri, saya rasa tidak masalah.
Tapi untuk built mesin AI membutuhkan daya listrik yang lumayan. Kalau untuk rumahan dan user tunggal saya rasa masih bisa, menggunakan Ryzen yang sudah pakai APU. Dengan context ollama juga sudah bisa kok.
AI chat + Skill
Jadi saya berpikir untuk membuat pendekatan baru, bagaimana memaksimalkan AI untuk kemampuan berpikir dan berlogika serta menentukan hasil, dipadukan dengan tools tambahan untuk menyediakan data. Pada dasarnya kombinasi ini sangat pas dan bagus untuk penggunaan tools di bidang IT, seperti system administrator, atau membaca logs server, dan analisa logs server.
Leave a Reply