Kako instalirati i koristiti DeepSeek-R1 lokalno na vašem računalu, bez obzira koristite li Ubuntu ili bilo koji drugi sustav

  • DeepSeek-R1 je model otvorenog koda s naprednim mogućnostima zaključivanja.
  • Ollama pojednostavljuje instalaciju i upravljanje AI modelima lokalno.
  • ChatBoxAI nudi grafičko sučelje za interakciju s modelima kao što je DeepSeek.
  • Model se može lako integrirati u razvojne projekte s Pythonom.

DeepSeek-R1 na Ubuntuu

Umjetna inteligencija nastavlja transformirati naš svijet, a opcije za rad s naprednim jezičnim modelima rastu velikom brzinom. Međutim, ne moraju se svi povezivati ​​s uslugama u oblaku ili se oslanjati na treće strane za istraživanje ovih tehnologija. Zanimljiva i pristupačna alternativa je DeepSeek-R1, AI model koji korisnicima omogućuje lokalno pokretanje na skromnim računalima. U ovom ću članku objasniti kako instalirati DeepSeek i u potpunosti iskoristiti njegove mogućnosti.

DeepSeek-R1 je a open-source AI model koji se ističe svojom učinkovitošću i naprednom sposobnošću zaključivanja. Pokrećući ga lokalno, ne samo da štedite tekuće troškove, nego također štitite svoju privatnost i dobivate fleksibilnost da ga integrirate u prilagođene projekte. Iako neki modeli zahtijevaju snažan hardver, DeepSeek-R1 nudi verzije podešene za različite resurse, od osnovnih računala do naprednih radnih stanica.

Što je DeepSeek i zašto ga koristiti lokalno?

DeepSeek-R1 je a napredni jezični model dizajniran za složene zadatke kao što je logičko zaključivanje, rješavanje matematičkih problema i generiranje koda. Njegova glavna prednost je što je open source, što znači da ga možete instalirati i pokrenuti na vlastitom računalu bez ovisnosti o vanjskim poslužiteljima.

Neke od njegovih značajnih značajki uključuju:

  • fleksibilnost: Model možete prilagoditi svojim potrebama, od laganih verzija do naprednih konfiguracija.
  • Privatnost: Sva se obrada vrši lokalno, izbjegavajući brige o izlaganju osjetljivih podataka. Ovo je možda najvažnija točka, budući da su mnogi zabrinuti što tvrtke mogu učiniti s našim podacima.
  • ušteda: Nećete morati izdvojiti novac za pretplate ili usluge u oblaku, što ga čini pristupačnom opcijom za programere i tvrtke.

Zahtjevi za ugradnju

Prije početka instalacije, provjerite jeste li u skladu sa sljedećim zahtjevi:

  • Računalo s operativnim sustavom Linux, macOS ili Windows (s podrškom za WSL2 u potonjem slučaju).
  • Minimalno 8 GB RAM-a, iako se barem preporučuje 16 GB za optimalnu izvedbu.
  • Pristup Internetu za početno preuzimanje modela.
  • Osnovno poznavanje terminala ili naredbenog retka.

Osim toga, morat ćete instalirati alat tzv Ollama, koji lokalno upravlja i pokreće DeepSeek modele.

Ollama instalacija

Ollama je jednostavno rješenje koje vam omogućuje preuzimanje i pokretanje jezičnih modela kao što su DeepSeek-R1. Da biste ga instalirali, slijedite ove korake:

  1. Na Linuxu ili macOS-u otvorite terminal i pokrenite sljedeću naredbu za instalaciju Ollama — paketa sklupčati Potrebno je, očito –:
curl -fsSL https://ollama.com/install.sh | sh
  1. Na Windows sustavima, provjerite jeste li prethodno omogućili WSL2, a zatim slijedite iste korake u Ubuntu terminalu koje ste konfigurirali unutar WSL-a.
  2. Provjerite je li Ollama ispravno instaliran pokretanjem ollama --version. Ako naredba vrati broj verzije, spremni ste za nastavak.

DeepSeek-R1 preuzimanje

Uz instaliranu i pokrenutu Ollamu (ollama serve u terminalu ako preuzimanje koje ćemo kasnije objasniti ne uspije), sada možete preuzeti model DeepSeek koji najbolje odgovara vašim potrebama i hardveru:

  • 1.5B parametri: Idealno za osnovna računala. Ovaj model zauzima otprilike 1.1 GB.
  • 7B parametri: Preporuča se za opremu sa GPU srednje-visoka. Ovo zauzima oko 4.7 GB.
  • 70B parametri: Za složene zadatke na opremi sa veliki kapacitet memorije i snažnog GPU-a.

Za preuzimanje standardnog modela 7B pokrenite ovu naredbu u terminalu:

Olama Run Deepseek-R1

Vrijeme preuzimanja ovisit će o brzini vašeg interneta i bit će potrebno samo kada prvi put pokrenemo chatbot. Nakon dovršetka, model će biti spreman za korištenje iz naredbenog retka ili putem grafičkog sučelja.

Korištenje DeepSeeka s grafičkim sučeljem

Iako s DeepSeekom možete komunicirati izravno s terminala, mnogi korisnici preferiraju grafičko sučelje zbog praktičnosti. U ovom slučaju možete instalirati ChatBoxAI, besplatna aplikacija koja će vam omogućiti da iskoristite DeepSeek iz vizualni oblik.

  • Preuzmite i instalirajte ChatBoxAI od svoju službenu stranicu.
  • Postavite aplikaciju za korištenje Ollama kao dobavljač modela:

U postavkama ChatBoxAI odaberite "Koristi moj vlastiti API" i odaberite model DeepSeek koji ste prethodno preuzeli. Ako je sve ispravno konfigurirano, moći ćete izvršavati upite i zadatke izravno iz grafičkog sučelja.

DeepSeek integracija u projekte

Ako ste programer, možete integrirati DeepSeek u svoje projekte koristeći njegov API OpenAI kompatibilan. Evo jednostavnog primjera korištenja Piton:

import openai klijenta = openai.Client(base_url="http://localhost:11434/v1", api_key="ollama") odgovor = client.chat.completions.create(model="deepseek-r1", messages=[{ "role": "user", "content": "Generiraj kod u Pythonu za izračun Fibonaccija"}])

Ova skripta će poslati upit lokalnom modelu DeepSeek i vratiti rezultat u vaš terminal ili aplikaciju.

DeepSeek-R1 AI model predstavlja izvrsnu opciju za one koji traže napredno i ekonomično rješenje. Uz lakoću pristupa koju Ollama pruža, fleksibilnost svojih modela i mogućnost integracije u prilagođene projekte, DeepSeek otvara nove mogućnosti za programere, studente i stručnjake za umjetnu inteligenciju. Sa svojim fokusom na privatnost i performanse, to je alat koji zaslužuje da ga se temeljito istraži.


Ostavite svoj komentar

Vaša email adresa neće biti objavljen. Obavezna polja su označena s *

*

*

  1. Za podatke odgovoran: Miguel Ángel Gatón
  2. Svrha podataka: Kontrola neželjene pošte, upravljanje komentarima.
  3. Legitimacija: Vaš pristanak
  4. Komunikacija podataka: Podaci se neće dostavljati trećim stranama, osim po zakonskoj obvezi.
  5. Pohrana podataka: Baza podataka koju hostira Occentus Networks (EU)
  6. Prava: U bilo kojem trenutku možete ograničiti, oporaviti i izbrisati svoje podatke.