By administrator 
Seperti yang kita Paham, kebanyakan AI chatbot yang beredar sekarang memerlukan cloud computing. Selain karena menggunakan data yang sangat besar, chatbot ini pun banyak menggunakan kemampuan proses GPU yang tinggi. Maka sering kita mendengar perusahaan besar seperti Tesla, Twitter, dan raksasa besar di Silicon Valley membeli GPU dari NVIDIA.
Diluar dari ChatGPT dan Kawan-kawannya, Terdapat juga beberapa AI chatbot dan machine learning yang memang Dapat berjalan seluruhnya secara lokal. Hanya saja membutuhkan GPU yang Ahli serta VRAM yang sangat tinggi. ChatGPT pun sebenarnya Dapat berjalan di Raspberry Pi, yang secara teorinya bukan sepenuhnya lokal karena ia tetap mengirim prompt yang dihasilkan ke server Demi diproses.
AI Chatbot Dapat Berjalan Sepenuhnya Secara Lokal Tanpa Cloud, Termasuk di iPhone
Tapi, bagaimana Kalau Terdapat sebuah Large Language Model yang ringan dan Dapat dijalankan sepenuhnya secara lokal pada internal storage perangkat? Rupanya Terdapat dan proyek tersebut merupakan software open source yang Dapat kalian coba dengan gratis.
Diberi nama MLC LLM (Machine Learning Compilation), sebuah software Large Language Model yang mengambil basis dari LLaMA Punya Meta Adalah Vicuna-7B-V1.1. LLM ini sudah dilatih sejak Maret hingga April tahun ini. Meskipun Dapat berjalan secara lokal dan tanpa cloud, tetap saja fitur dan kemampuan yang ditawari Enggak Dapat sekomplit dan secanggih GPT 3.5.
AI MLC LLM Tersedia Demi Dekat Seluruh Platform
Proyek ini tersedia Demi Linux, Windows, macOS, dan iOS, sedangkan Demi versi Android belum tersedia Demi Demi ini. Developernya juga menyertakan instruksi simpel di situs mereka beserta source code di GitHub.
Demi sekarang, LLM ini Dapat berjalan dengan mulus pada perangkat iOS iPhone yang menggunakan RAM 6GB, sedangkan Demi dibawah itu Lagi belum Dapat berjalan optimal. Sedangkan Demi penggunaan pada PC Windows, softwarenya Dapat berjalan dengan mulus bahkan pada perangkat Intel generasi ke-6 sekalipun.
Karena Lagi baru, MLC LLM Lagi belum Dapat memberikan jawaban yang Presisi. Informasi yang diberikan Lagi sangat kabur. Kedepannya seiring dengan perkembangan, AI ini akan semakin canggih dan Dapat menjawab pertanyaan secara Presisi.
Baca juga informasi menarik Jagat Game lainnya terkait Tech atau artikel lainnya dari Andi. For further information and other inquiries, you can contact us via author@Jagat Game.com.