Saya telah menggunakan AI sebagai salah satu alat masuk saya untuk penelitian untuk beberapa waktu sekarang. Meskipun ada banyak opsi yang dapat diakses melalui browser web (seperti Opera's ARIA, layanan AI pertama yang pernah saya gunakan), saya lebih suka alat desktop karena saya dapat menginstal dan menggunakan LLM lokal – jadi semua pertanyaan saya tetap pribadi. Dengan alat desktop, saya dapat dengan mudah beralih di antara LLM lokal seperti Llama, Deepseek R1, Instruksi Mistral, Orca, GPT4all Falcon, dan banyak lagi.
Sampai sekarang, Linux AI GUI default saya adalah MSTY, tetapi saya telah menemukan aplikasi baru yang sama baiknya. Aplikasi itu adalah GPT4ALL, tersedia untuk Linux, MacOS, dan Windows.
Juga: Dua aplikasi AI favorit saya di Linux – dan bagaimana saya menggunakannya untuk menyelesaikan lebih banyak
GPT4All dapat digunakan untuk pertanyaan standar, sebagai asisten penulisan pribadi, untuk menulis kode, dan banyak lagi. Kebetulan juga memiliki UI fantastis yang mudah digunakan dan akan cocok langsung dengan tampilan dan nuansa desktop Anda.
Salah satu aspek GPT4Alall yang saya hargai adalah kemampuan untuk memilih perangkat komputasi untuk pembuatan teks. Misalnya, System76 Thelio saya memiliki AMD Radeon RX 7600 GPU. GPT4Alall mendeteksi GPU itu dan memungkinkan saya untuk menggunakan Vulkan: AMD Radeon RX 7600 (Radv Navi33) atau Vulkan: AMD Radeon RX 7600 (Radv Raphael_Mendocino).
Saya juga dapat memilih model default saya, mengubah mode saran (untuk menghasilkan pertanyaan tindak lanjut), mengkonfigurasi jumlah utas CPU, mengaktifkan aplikasi baki sistem, dan banyak lagi. Saya dapat mengaktifkan server API lokal sehingga GPT4ALL dapat diakses melalui http: // localhost: 4891. Kelemahan menggunakannya dalam mode server adalah ia mengkonsumsi lebih banyak sumber daya sistem.
Mari kita dapatkan GPT4Alall di Linux, jadi saya bisa menunjukkan apa yang.
Menginstal GPT4ALL pada distribusi yang berbasis di Ubuntu
Yang Anda butuhkan: Saat ini, satu-satunya distribusi Linux yang didukung adalah yang didasarkan pada Ubuntu, jadi Anda akan memerlukan instance menjalankan distribusi berbasis Ubuntu. Saya akan mendemonstrasikan ini di pop! _Os Linux.
Hal pertama yang harus dilakukan adalah mengunduh file penginstal. Arahkan browser Anda ke unduhan penginstal Ubuntu dan, ketika diminta, simpan file GPT4all-installer-linux.run di ~/unduhan.
Tunjukkan lebih banyak
Buka Aplikasi Jendela Terminal Default Anda dan Ubah ke Direktori Unduhan dengan Perintah CD ~/unduhan. Sesampai di sana, berikan izin penginstal yang dapat dieksekusi dengan perintah:
Tunjukkan lebih banyak
chmod u+x gpt4all-installer-linux.run
Anda sekarang dapat menjalankan penginstal dengan perintah:
Tunjukkan lebih banyak
./gpt4all-installer-linux.run
Perhatikan bahwa Anda tidak perlu menggunakan sudo untuk instalasi. Jika Anda mencoba menginstal GPT4ALL dengan sudo, itu akan keluar. Ketika wizard instalasi terbuka, klik melalui langkah -langkah untuk menyelesaikan instalasi.
Juga: Bagaimana saya memberi makan file saya ke AI lokal untuk tanggapan yang lebih baik dan lebih relevan
Wisaya instalasi GPT4ALL cukup sederhana sehingga siapa pun dapat melakukannya.
Tangkapan layar oleh Jack Wallen/Zdnet
Instalasi harus diselesaikan tanpa hambatan.
Menggunakan gpt4all
Saat pertama kali membuka GPT4ALL, Anda harus memilih masuk atau keluar dari analitik penggunaan anonim dan berbagi obrolan anonim. Saya akan merekomendasikan Anda memilih keluar. Setelah selesai, Anda akan menemukan diri Anda di jendela GPT4ALL utama, di mana Anda harus menginstal model lokal.
Jendela aplikasi GPT4ALL yang dirancang dengan baik mudah dimengerti tanpa banyak usaha.
Tangkapan layar oleh Jack Wallen/Zdnet
Untuk menginstal model pertama Anda, klik model dan kemudian klik Tambah Model. Di jendela yang dihasilkan, gulir ke bawah dan cari model yang Anda inginkan, seperti Llama 3.2 3b Instruksi. Saat Anda menemukannya, klik unduh untuk memulai proses. Ingat, model -model ini bisa cukup besar (yang terkecil adalah Llama 3.2 3b menginstruksikan pada 1,79 GB).
Saya sering menggunakan salah satu model Llama karena kecil dan efisien.
Tangkapan layar oleh Jack Wallen/Zdnet
Setelah model diunduh dan diinstal, Anda akan menemukannya terdaftar di bagian Model.
Juga: Cara Menjalankan AI Deepseek Secara Lokal untuk Melindungi Privasi Anda – 2 Cara Mudah
Klik ikon obrolan di bilah sisi kiri. Jika Anda hanya menginstal satu model, itu akan terdaftar di tengah atas. Jika Anda telah menginstal beberapa model, pilih yang ingin Anda gunakan dari drop-down itu.
Saya bertanya, “Apa itu Linux?” untuk pertanyaan pertama saya.
Tangkapan layar oleh Jack Wallen/Zdnet
Ketik kueri Anda di bidang “Kirim Pesan” dan tekan Enter di keyboard Anda. Gpt4all akan sibuk bekerja untuk menjawab pertanyaan Anda. Jika Anda telah mengaktifkan saran tindak lanjut, mereka akan terdaftar di bawah jawabannya. Saya suka saran tindak lanjut karena mereka membantu saya menyelami beberapa lubang kelinci yang serius (dan terkadang menyenangkan). Di System76 Thelio saya, saya hampir tidak memperhatikan overhead komputasi tambahan yang dibutuhkan oleh tindak lanjut yang disarankan, jadi ada baiknya memungkinkan.
Saya menganggap tindak lanjut sebagai suatu keharusan.
Tangkapan layar oleh Jack Wallen/Zdnet
Dan itu, teman -teman saya, adalah semua yang ada untuk mendapatkan GPT4Alall diinstal di Linux – dan dasar -dasar untuk menggunakan alat yang bermanfaat ini.
Ingin lebih banyak cerita tentang AI? Daftar inovasibuletin mingguan kami.