LAS VEGAS, KOMPAS.com – Perusahaan cloud computing asal Amerika Serikat (AS), Amazon Web Service (AWS), menggelar acara bertajuk “re:Invent:2024” pada Senin (2/12/2024) waktu AS atau Selasa pagi waktu Indonesia.
Acara tahunan ini akan berlangsung hingga 6 Desember mendatang. Re:Invent 2024 dibuka oleh Peter DeSantis, Senior Vice President of AWS Utility Computing dalam keynote “Monday Night Live”.
Re:Invent:2024 digelar di Convention Hall The Venetian Hotel, Las Vegas, Nevada, Amerika Serikat. Jurnalis KompasTekno Wahyunanda Kusuma Pertiwi berkesempatan hadir langsung dalam acara ini.
Sebagai pembicara kunci, DeSantis memanfaatkan momen ini untuk membahas teknis produk, inovasi, dan solusi cloud computing baru AWS.
Ia mengatakan, AWS ingin memanfaatkan momentum untuk memenuhi kebutuhan akan teknologi kecerdasan buatan/artificial intelligence/AI training (pelatihan model AI) dan inference workloads, atau proses komputasi yang melibatan penggunaan model AI serta machine learning (ML).
Baca juga: AWS Siap Gelar Acara re:Invent 2024 di Las Vegas, Apa Saja yang Dibahas?
Salah satunya adalah dengan mengumumkan server generasi baru yang lebih canggih, yakni Trainium2 UltraServer.
“Tahun ini, untuk menunjukkan kepada Anda seperti apa UltraServer, kami membawanya ke atas panggung,” kata DeSentis sambil membuka kain hitam yang menutup Trainum2 UltraServer di atas panggung re:Invent 2024.
Server ini tersusun atas dua rak berisi empat server yang ditenagai chip Trainium2. Setiap server memiliki delapan rak akselerator, di mana masing-masing memiliki dua kartu akselerator Trainium2 yang dibekali Nitro Cards khusus.
Sehingga, server baru ini memiliki total 64 akselerator Trainium2 yang bisa bekerja bersamaan, melalui Neuro Link super cepat untuk menawarkan performa instans tunggal yang luar biasa.
“Berbeda dengan jaringan protokol high-speed tradisional, Neuron Link server bisa saling menghubungkan memori satu sama lain. Nah, hal ini membuat kami merancang sesuatu yang spesial, sesuatu yang kami sebut sebagai UltraServer,” jelas DeSantis.
Sebagai gambaran, instans yang dimaksud ibarat sebuah komputer virtual, seperti laptop atau PC fisik tapi berada di cloud. Sebagaimana laptop atau PC, ia juga memiliki spesifikasi tertentu, seperti prosesor, memori, dan jaringan sesuai kebutuhan.
Semakin kuat instans, maka server bisa menangani beban kerja lebih banyak dan kompleks.
Adapun Trainium2 adalah chip akselerator AI generasi kedua yang dikembangkan oleh AWS, untuk meningkatkan kinerja pelatihan model AI dan ML.
Chip ini dirancang khusus untuk menangani beban kerja AI yang kompleks, termasuk model bahasa besar (Large Language Model/LLM) dengan parameter hingga triliunan.
Semakin banyak parameter, maka semakin mudah server menangani model yang kompleks.
Dengan spesifikasi ini, menurut DeSentis, Trainium2 UltraServer bisa menawarkan kapasitas komputasi lima kali lebih besar dibanding server AI EC2 milik AWS, dan memiliki memori 10 kali lebih luas.
“Ini adalah jenis server yang Anda butuhkan apabila Anda ingin membangun triliunan parameter AI model,” imbuh DeSentis.
Baca juga: AWS Cloud Percepat Inovasi Perbankan Digital di Indonesia
Umumkan solusi baru
AWS juga mengumumkan beberapa solusi baru. Salah satunya adalah seperangkat komponen data center baru untuk mendukung pemanfaatan AI.
Kemampuan baru ini menggabungkan inovasi dalam power (kekuatan), cooling (pendinginan), dan desain hardware yang bisa menghemat konsumsi energi data center.
Semua teknologi baru ini akan diimplementasikan di semua data center AWS di seluruh dunia. Beberapa komponen juga diklaim sudah dipasang di data center yang sudah ada saat ini.
Selain itu, AWS juga menambahkan generative AI ke Amazon Connect. AWS Connect adalah layanan contact center berbasis cloud yang didukung kecerdasan buatan.
Layanan ini bisa dimanfaatkan pelanggan AWS untuk membantu perusahaan mereka mengelola pusat layanan pelanggan (customer service) mereka secara online.
Selain generative AI, Amazon Connect kini juga dibekali fitur keamanan yang ditingkatkan, serta manajemen bot yang lebih efisien.
Peningkatan ini disebut akan membantu perusahaan untuk memberikan layanan customer service dengan interaksi lebih humanis, aman, dan sesuai.
Baca juga: AWS: AI Jadi Pendamping Manusia, Bukan Pengganti
Nah, fitur-fitur baru di Amazon Connect ini akan diimplementasikan di beberapa pelanggan AWS, seperti WhatsApp Business, Frontoor, Fujitsu, GoStudent, dan sebagainya.
Amazon Connect juga menambahkan kemampuan analitik baru lewat Amazon Connect Contact Lens.
Selain itu, AWS juga mengumumkan beberapa pembaruan security untuk layanan, seperti AWS Verified Access dan Amazon GuardDuty Extended Threat Detection untuk AI dan Machine Learning.