Atvirojo kodo dirbtinio intelekto modelių bumas ir „savitų“ AI asistentų era

Per pastaruosius dvejus metus dirbtinis intelektas iš nišinio įrankio tapo kasdienybe. Tačiau 2024–2025 m. ryškiausia tendencija – ne tik didžiųjų uždarų modelių, tokių kaip „GPT-4“ ar „Claude 3“, pažanga, bet ir sprogstamas atvirojo kodo AI modelių bumas. Kartu gimsta nauja era – savitų, asmeniškai pritaikytų AI asistentų, kurie veikia lokaliai jūsų kompiuteryje, serveryje ar telefone.

Šiame straipsnyje apžvelgsime, kas vyksta atvirojo kodo DI pasaulyje, kuo jis skiriasi nuo uždaro, kodėl visi kalba apie lokalius asistentus ir ką tai reiškia verslui, kūrėjams bei paprastiems vartotojams Lietuvoje.

Kas iš tikrųjų vyksta: atvirojo kodo AI revoliucija

Dar 2022 m. daugumai AI siejosi su vienu vardu – „ChatGPT“. Šiandien rinkos vaizdas visiškai kitoks: atsirado dešimtys galingų atvirojo kodo modelių, kuriuos galima atsisiųsti ir paleisti savo įrenginiuose.

Ryškiausi atvirojo kodo modeliai 2024–2025 m.

Šiandien aktyviai naudojami ir toliau tobulinami keli pagrindiniai atvirojo kodo modelių šeimos nariai:

Llama 3 / 3.1 – „Meta“ atvirojo kodo modelių šeima, tapusi savotišku standartu. Yra įvairių dydžių versijų (nuo kelių iki dešimčių milijardų parametrų), kurios veikia tiek debesyje, tiek lokaliai.
Mistral – Europos startuolio „Mistral AI“ modeliai, garsėjantys efektyvumu ir gera kokybės bei resursų sąnaudų pusiausvyra. Plačiai naudojami startuolių ir kūrėjų.
Mixtral ir kiti MoE modeliai – mišrios ekspertų architektūros (Mixture of Experts) modeliai, kurie leidžia pasiekti aukštą kokybę neapkraunant viso modelio vienu metu.
Smulkesni lokalūs modeliai – optimizuotos versijos, tokios kaip „Phi“ tipo ar kvantuoti Llama/Mistral modeliai, pritaikyti veikti ne tik galinguose GPU, bet ir paprastesniuose nešiojamuose kompiuteriuose ar net telefonuose.

Šių modelių kodas ir svoriai dažnai platinami per platformas, tokias kaip „Hugging Face“, o bendruomenė kasdien kuria šimtus naujų adaptacijų: nuo programavimo pagalbos iki medicinos, teisės ar rinkodaros specializacijų.

Skirtumas tarp atvirojo ir uždaro AI modelio

Esminis skirtumas – kontrolė ir skaidrumas:

Uždari modeliai (pvz., „GPT-4“, „Claude 3“) – priklausote nuo tiekėjo API, kainodaros, greičio ir taisyklių. Negalite matyti modelio vidinės struktūros ir pilnai valdyti duomenų kelio.
Atvirojo kodo modeliai – galite atsisiųsti modelį, paleisti jį savo serveryje, pritaikyti, treniruoti toliau ar net integruoti į savo produktą be nuolatinės priklausomybės nuo trečiųjų šalių.

Praktikoje tai reiškia, kad įmonės ir kūrėjai gali kurti labiau personalizuotus ir saugius sprendimus, o ne tik „prisijungti prie API“ ir mokėti už kiekvieną užklausą.

„Savitų“ AI asistentų era: nuo vieno super-boto prie daugybės nišinių

Iki šiol dauguma naudotojų turėjo vieną „didįjį“ asistentą – „ChatGPT“, „Copilot“ ar „Claude“. Dabar formuojasi naujas modelis: kiekvienas žmogus ir įmonė turi kelis savitus asistentus, pritaikytus skirtingoms užduotims.

Ką reiškia „savitas“ AI asistentas?

Savitas AI asistentas – tai ne dar vienas bendro pobūdžio pokalbių robotas, o:

aiškiai apibrėžtos rolės (pvz., „mano finansų analitikas“, „mano rinkodaros tekstų redaktorius“, „mano programavimo mentorius“),
apmokytas jūsų duomenimis (dokumentais, el. laiškais, projektų archyvu),
veikiantis jūsų aplinkoje (kompiuteryje, vidiniame įmonės serveryje, telefone),
turintis prieigą prie jūsų įrankių (kalendoriaus, el. pašto, CRM, projektų valdymo sistemų).

Toks asistentas žino ne tik „bendrą pasaulio informaciją“, bet ir jūsų kontekstą: kas jūsų klientai, kokį toną mėgstate komunikacijoje, kokius terminus naudoti sutartyse.

Vienas universalus ar keli specializuoti AI?

Rinka juda nuo vieno universalaus bendražinio AI link „AI ekosistemos“:

vienas AI – projektų vadovas, kuris seka terminus ir užduotis,
kitas – turinio redaktorius, kuris padeda su SEO straipsniais ir socialiniais tinklais,
trečias – duomenų analitikas, dirbantis su „Excel“, BI įrankiais ir ataskaitomis,
ketvirtas – IT pagalbininkas, kuris padeda rašyti skriptus, konfigūruoti serverius ir tikrinti saugumą.

Kiekvienas iš jų gali būti paremtas skirtingu atvirojo kodo modeliu, optimizuotu konkrečiai užduočiai.

Lokaliai veikiantis AI: privatumas ir kontrolė

Viena stipriausių atvirojo kodo DI kortų – galimybė dirbti lokaliai, be duomenų siuntimo į išorinius serverius. Tai itin aktualu Europos ir Lietuvos įmonėms, besilaikančioms GDPR ir griežtų duomenų apsaugos taisyklių.

Lokalaus AI privalumai

Privatumas – jautrūs dokumentai, sutartys, medicininiai ar finansiniai duomenys nepalieka jūsų infrastruktūros.
Kontrolė – patys pasirenkate, kokį modelį naudoti, kaip jį atnaujinti, kokias taisykles ir filtrus taikyti.
Stabili kaina – nereikia mokėti už kiekvieną API užklausą; išlaidos susijusios su jūsų aparatine įranga ir energija.
Darbas be interneto – dalis funkcijų gali veikti ir neprisijungus, kas svarbu keliaujant ar dirbant saugomuose tinkluose.

Techninė pusė: ar mano kompiuteris „patemps“ AI?

Šiuolaikiniai atvirojo kodo modeliai vis labiau optimizuojami paprastiems įrenginiams:

kvantuoti modeliai (4-bit, 8-bit) leidžia sumažinti atminties poreikį ir išlaikyti priimtiną kokybę,
GPU akseleracija (NVIDIA, AMD, „Apple Silicon“) leidžia pasiekti realaus laiko atsakymus,
specializuotos programos („Ollama“, „LM Studio“, „koboldcpp“ ir kt.) supaprastina modelių paleidimą ne programuotojams.

Praktinis scenarijus: vidutinės klasės nešiojamas kompiuteris su 16 GB RAM šiandien jau gali paleisti sumažintą Llama ar Mistral modelį, kuris puikiai tinka tekstų kūrimui, kodavimui ir kasdienėms užduotims.

Verslui: nuo eksperimentų prie realių produktų

Jei 2023 m. daugelis įmonių „žaidė“ su AI prototipais, tai 2024–2025 m. AI tampa produkto dalimi. Atvirojo kodo modeliai čia vaidina vis svarbesnį vaidmenį.

Kur atvirojo kodo AI jau kurią vertę?

Klientų aptarnavimas – lokaliai veikiantys chatbot’ai, kurie supranta įmonės produktų katalogą, kainodarą ir vidaus taisykles.
Vidinė dokumentacija – AI, kuris suranda atsakymus vidiniame „Wiki“, politikoje, instrukcijose ir procedūrose.
Rinkodara – automatinis turinio generavimas, A/B testų idėjos, socialinių tinklų įrašų kalendorius.
Programavimas – vidiniai „code assistant“ sprendimai, suprantantys konkrečią monolitinę sistemą ar mikroservisų architektūrą.
Duomenų analizė – natūralia kalba užduodami klausimai duomenų bazėms ir BI įrankiams.

Naudojant atvirojo kodo modelius, įmonė gali sukurti nuosavą AI sluoksnį ant savo duomenų, neatskleisdama jų išoriniams tiekėjams.

Teisiniai ir etiniai aspektai

Atvirojo kodo nereiškia „be taisyklių“. Reikia atsižvelgti į:

licencijas – dalis modelių leidžiami naudoti tik nekomerciniais tikslais, kiti turi ribojimų dėl dydžio ar naudojimo srities;
duomenų kilmę – vis daugiau dėmesio skiriama tam, kokiais duomenimis modeliai buvo mokyti ir ar nepažeidžiamos autorinės teisės;
ES AI aktą – Europos Sąjungoje įsigaliojančios taisyklės nustatys skaidrumo, rizikos vertinimo ir atskaitomybės reikalavimus.

Lietuvos verslui tai reiškia, kad AI diegimas turi būti derinamas su teisininkais ir duomenų apsaugos specialistais, o ne tik su IT skyriumi.

Kūrėjams: nuo „promptų“ prie infrastruktūros ir agentų

AI bumas pakeitė ir kūrėjų darbą. Nebepakanka mokėti „rašyti promptus“. Vertingiausios kompetencijos šiandien – infrastruktūra, orkestravimas ir agentų dizainas.

Nauji AI kūrėjo įgūdžiai

Modelių pasirinkimas ir derinimas – suprasti, kada rinktis Llama, kada Mistral, kada mažesnį specializuotą modelį.
RAG (Retrieval-Augmented Generation) – gebėjimas prijungti modelį prie duomenų bazių, vektorių saugyklų ir dokumentų, kad AI remtųsi naujausia informacija.
Agentų architektūros – kurti sistemas, kuriose keli AI agentai bendradarbiauja tarpusavyje ir su įrankiais (API, DB, failų sistema).
Optimizacija – kvantavimas, „caching“, užklausų batching, kad sistema būtų greita ir pigi.

Kūrėjams atvirojo kodo modeliai – tai galimybė ne tik integruoti AI, bet ir valdyti visą vertės grandinę: nuo modelio treniravimo iki produkto funkcijų.

Vartotojams: kaip susikurti savo AI asistentų rinkinį

Nereikia būti programuotoju, kad pradėtum naudoti savitus AI asistentus. Yra daugybė įrankių, kurie leidžia tai padaryti per grafines sąsajas.

Pradžiai: trys žingsniai iki savo AI asistento

Pasirinkite platformą
Galite rinktis tarp debesinių sprendimų (su atvirojo kodo modeliais) arba lokalių programų kompiuteryje. Svarbu, kad platforma leistų:

kurti atskirus „asistentus“ ar „agentus“,
įkelti savo dokumentus ir žinias,
valdyti, kur keliauja duomenys.

Apibrėžkite rolę ir toną
Vietoj vieno bendrinio bendražinio AI susikurkite kelis:

„AI rašytojas“ – straipsniams, naujienlaiškiams, socialiniams tinklams,
„AI analitikas“ – ataskaitoms, skaičiavimams, duomenų santraukai,
„AI mentorius“ – mokymuisi, kalbų praktikai, karjeros patarimams.

Pamaitinkite jį savo turiniu
Įkelkite:

dažniausiai naudojamus dokumentus,
prezentacijas, kainodarą, sutartų šablonus,
stiliaus gaires, prekės ženklo toną.

Po kelių dienų aktyvaus naudojimo pamatysite, kad kiekvienas asistentas tampa vis „savesnis“: geriau supranta jūsų stilių, prioritetus ir darbo ritmą.

Rizikos ir iššūkiai: ką svarbu žinoti dabar

Kaip ir kiekviena technologinė revoliucija, atvirojo kodo AI bumas turi ne tik privalumų, bet ir rizikų.

Pagrindiniai iššūkiai

Kokybės skirtumai – ne visi atvirojo kodo modeliai prilygsta naujausiems uždariems flagmanams kūrybiškumo ar sudėtingų užduočių srityje.
Konfigūracijos sudėtingumas – lokaliems sprendimams dažnai reikia techninių žinių (GPU, tvarkyklės, konteineriai).
Hallucinacijos – modeliai vis dar linkę „išsigalvoti“ faktus, todėl būtina tikrinti svarbią informaciją.
Saugumas – AI agentai, turintys prieigą prie įrankių (el. pašto, failų sistemos), turi būti griežtai apriboti ir audituojami.

Sprendimas – aiški AI naudojimo strategija: kokiems procesams AI tinka, kokiems – ne, kokie patvirtinimo žingsniai reikalingi prieš priimant AI pasiūlytus sprendimus.

Kas laukia toliau: AI kaip naujas „operacinės sistemos“ sluoksnis

Žvelgiant į 2025 m. ir toliau, vis labiau ryškėja vizija, kad AI taps nuolat veikiančiu sluoksniu tarp žmogaus ir technologijų:

kompiuteriuose ir telefonuose atsiras integruoti AI asistentai, suprantantys kontekstą visose programose,
įmonėse AI taps vidiniu darbuotoju, turinčiu paskyrą, teises ir atsakomybę,
vartotojai turės asmeninius „AI avatarus“, keliaujančius su jais iš vienos paslaugos į kitą.

Atvirojo kodo modeliai čia atliks kritinį vaidmenį: jie leis išlaikyti konkurenciją, inovacijų tempą ir vartotojų kontrolę savo duomenims bei asistentams.

Šiandien – pats metas ne tik „išbandyti AI“, bet ir pradėti kurti savo AI strategiją: kokius atvirojo kodo modelius naudosite, kokius savitus asistentus kursite ir kaip jie įsilies į jūsų kasdienį darbą.

DUK: dažniausiai užduodami klausimai

Ar atvirojo kodo AI modeliai jau prilygsta „ChatGPT“ kokybei?

Geriausi atvirojo kodo modeliai daugelyje užduočių (ypač kodo rašyme, santraukose, struktūruotame tekste) jau artėja prie uždarų flagmanų kokybės. Tačiau sudėtingose kūrybinėse, daug žingsnių reikalaujančiose ar labai nišinėse užduotyse uždari modeliai dažnai vis dar pirmauja. Praktikoje dažnai pasirenkamas hibridinis kelias: kasdienėms užduotims – atvirojo kodo modeliai, kritinėms – geriausi komerciniai.

Ar saugu įkelti konfidencialius duomenis į atvirojo kodo AI?

Saugumas priklauso ne nuo to, ar modelis atvirojo kodo, o nuo to, kur jis paleistas. Jei modelis veikia jūsų serveryje ar kompiuteryje ir tinkamai sukonfigūruotas, konfidencialius duomenis galima apdoroti gerokai saugiau nei siunčiant juos į išorinę API. Vis dėlto būtina laikytis kibernetinio saugumo gerosios praktikos ir aiškiai apibrėžti, kokiems duomenims AI gali turėti prieigą.

Ar man, kaip mažam verslui Lietuvoje, verta investuoti į savo AI asistentą?

Dažniausiai – taip, jei AI susiejamas su realiais procesais: klientų aptarnavimu, dokumentų ruošimu, rinkodara ar vidine komunikacija. Atvirojo kodo modeliai leidžia pradėti nuo nedidelių investicijų: galima išbandyti lokalius sprendimus, pradėti nuo vieno aiškiai apibrėžto asistento ir plėsti sistemą pagal poreikį. Svarbiausia – aiškiai išmatuoti sutaupytą laiką ir kokybės pagerėjimą.

Atvirojo kodo AI bumas ir savitų asistentų era: kas laukia toliau