Teknologi artificial intelligence (AI) atau kecerdasan buatan telah mengalami kemajuan pesat dalam beberapa tahun terakhir. Namun peningkatan kemampuan AI itu menuntut penggunaan sumber daya enerhi yang lebih besar. Sebagai contoh, OpenAI membutuhkan energi listrik sangat besar untuk mengoperasikan ChatGPT. Sebuah laporan dari University of California mengungkap bahwa ChatGPT, salah satu produk OpenAI, menggunakan banyak air untuk menjalankan prosesnya, termasuk menulis email dengan 100 kata.
Misalnya, sebuah data center di Texas memerlukan sekitar 235 mililiter air untuk membuat email 100 kata. Sedangkan, data center OpenAI di Washington membutukan hingga 1.408 mililiter air untuk melakukan hal serupa. Ketersediaan air yang rendah di wilayah tertentu dan harga listrik yang murah, menyebabkan data center mengandalkan pendingin udara bertenaga listrik untuk mendinginkan mesin.
Kebutuhan kapasitas data center yang semakin besar karena berkembangnya AI generatif membuat pendinginan berbasis udara tidak lagi memadai. Kini, penggunaan pendingin cairan menjadi keharusan, meskipun hal ini berdampak negatif terhadap lingkungan karena konsumsi air dan listrik yang signifikan.
Misalnya, data center OpenAI membutuhkan daya yang setara dengan menyalakan lebih selusin lampu LED selama satu jam untuk menuliskan email 100 kata oleh ChatGPT. Jika 10 persen populasi Amerika Serikat (AS) menggunakan ChatGPT untuk menulis email sekali seminggu selama setahun, daya yang dibutuhkan akan setara dengan konsumsi listrik seluruh rumah tangga di Washington, DC selama 20 hari.
Penggunaan air dan listrik yang masif ini kemungkinan akan terus meningkat. Sebagai contoh, Meta menggunakan 22 juta liter air untuk melatih model AI terbaru mereka, Llama 3.1. Di sisi lain, pusat data Google di The Dalles, Oregon, mengonsumsi hampir seperempat dari seluruh pasokan air kota tersebut. Sementara itu, superkluster Memphis milik xAI memerlukan daya listrik sebesar 150MW, cukup untuk memenuhi kebutuhan 30.000 rumah.
Sementara itu Towards Data Science melaporkan melatih model AI GPT-4 selama 90-100 hari membutuhkan listrik sekitar 62.000 MWh, setara dengan konsumsi energi 1.000 rumah tangga AS selama 5-6 tahun. Tak hanya itu, biaya pelatihan model ini diperkirakan mencapai 100 juta dolar AS. Proses pelatihan GPT-4 menggunakan sekitar 25.000 GPU Nvidia A100, yang ditempatkan di 3.125 server, dengan masing-masing server memerlukan daya 6,5 kW. Jika server ini beroperasi penuh selama 90-100 hari, total konsumsi listrik akan mencapai antara 51.772 MWh hingga 57.525 MWh, atau setara dengan konsumsi energi tahunan 1.000 rumah tangga AS.
Peningkatan penggunaan server Microsoft Azure untuk melatih model AI seperti GPT-4 juga menyebabkan lonjakan konsumsi listrik Microsoft, yang meningkat dari 11 TWh pada 2020 menjadi 24 TWh pada 2023, lebih besar dari konsumsi listrik tahunan Yordania. Lonjakan ini juga disertai dengan peningkatan emisi karbon Microsoft sebesar 42 persen, yang diperkirakan terkait dengan pelatihan dan pengoperasian model AI tersebut.
Bikin Bangkrut
OpenAI berada di ambang kehancuran dengan kerugian mencapai USD5 miliar, menurut analisis yang dilakukan oleh The Information yang mengacu pada informasi keuangan yang sebelumnya tidak diungkapkan. Hal itu berarti OpenAI menuju kebangkrutan dalam 12 bulan ke depan. Laporan itu menunjukkan OpenAI sangat boros dalam pengeluaran dibandingkan dengan rekan-rekannya di ruang AI generatif.
Biaya pelatihan dan inferensi OpenAI bisa mencapai USD7 miliar pada tahun ini, dengan tambahan USD1,5 miliar untuk pengeluaran staf (melalui X). Berbeda dengan Anthropic yang menghabiskan USD 2,7 miliar untuk melatih AI
Pengeluaran OpenAI telah menjadi topik pembicaraan berulang selama 18 bulan terakhir, dengan analisis industri menyoroti biaya yang tinggi terkait dengan pembangunan dan pemeliharaan layanan unggulannya seperti ChatGPT. Perkiraan menunjukkan biaya untuk menjaga ChatGPT tetap berjalan hampir USD700.000 ($694.444) sehari pada tahun 2023.
Sebaliknya, pendapatan OpenAI hanya sedikit di bawah USD 3,5 miliar, menciptakan margin yang berpotensi tidak dapat dipertahankan untuk perusahaan dan mendorong beberapa analis industri mempertanyakan seluruh model bisnisnya. OpenAI dilaporkan menerima akses diskon ke layanan cloud Microsoft Azure sebagai bagian dari hubungannya dengan raksasa teknologi tersebut.
Microsoft juga telah menginvestasikan miliaran dolar dalam startup ini selama dua tahun terakhir, meskipun demikian, kekhawatiran semakin meningkat mengenai kelangsungan jangka panjang perusahaan.
Penyebab Kerugian
Sementara masalah keuangan OpenAI berpusat pada biaya operasional yang sangat tinggi, pertanyaan mengenai situasinya saat ini muncul di tengah periode kekhawatiran yang lebih luas di industri AI. Semakin banyak pemangku kepentingan industri mulai mempertanyakan apakah ada pengembalian investasi (ROI) yang dapat dibuktikan dan menunjukkan kurangnya kasus penggunaan yang jelas.
Sebuah studi terbaru dari perusahaan perangkat lunak Ardoq menemukan bahwa ROI pada adopsi teknologi seperti AI generatif sering kali dianggap sebagai latihan “menebak-nebak” di antara pemimpin teknologi senior.
Penelitian ini menunjukkan adanya rasa sinisme yang meluas tentang manfaat teknologi seperti AI generatif, dengan hanya sepertiga organisasi yang mencapai pengembalian investasi yang nyata dalam 12 bulan pertama. Simon Bain, CEO Omnilndex, mengatakan kepada ITPro banyak pemimpin teknologi mulai mengakui kenyataan ini, mencatat bahwa pendekatan “serba bisa” AI telah gagal seperti dikutip Itpro.
“Sementara demo yang mencolok dan obrolan yang mengesankan awalnya menarik perhatian dan pengguna gratis, mereka tidak memberikan banyak (jika ada) solusi bisnis nyata. Oleh karena itu, orang-orang tidak melihat alasan untuk membayarnya,” tambahnya.
Mark Rodseth, Wakil Presiden Teknologi, EMEA, di CI&T menggemakan komentar Couldwell tentang ROI, mencatat bahwa teknologi ini “masih perlu membuktikan nilainya.” “Karena AI masih dalam tahap awal, membuktikan ROI bisa menjadi tantangan – baik kepada pemangku kepentingan eksternal maupun internal. Namun ini tidak berarti perusahaan harus berhenti merangkul AI,” ujarnya.
Baca Juga: Jokowi Peringatkan AI Bakal Ambil Alih 85 Juta Pekerjaan Tahun Depan