Rozmawiamy z jednym z twórców Bielika, dlaczego warto trenować własne modele językowe, choćby małe 

Sebastian Kondracki jest robotykiem, programistą, szefem innowacji w firmie Deviniti, autorem książki Python AI dla e-commerce i trenerem dużych modeli językowych w projekcie SpeakLeash. Jest także pomysłodawcą i współtwórcą modelu Bielik - polskiego ekosystemu sztucznej inteligencji. 

Sebastian: W wywiadach nie jest tak źle. Widać, że nasi redaktorzy są wyedukowani technologicznie. Jednak po wywiadach zaczynają się komentarze użytkowników: "po co nam polski model jak mamy super ChatGPT lub Deepseek" i "wariaci jeszcze system operacyjny polski stwórzcie". Miałbym ochotę wtedy zacytować Kazika. 

Sebastian: "Gdy mnie ktoś tak spyta, za***rwię z laczka i poprawię z kopyta". 

Sebastian: Tak, najwyraźniej brakuje edukacji i wyjaśnienia pojęć. Dlatego misją moją i zespołu

[projektu SpeakLeash] jest edukacja. Jesteśmy na wielu konferencjach również nietechnicznych, gdzie opowiadamy, że ChatGPT to nie jest tylko LLM, to jest duży model językowy z wieloma różnymi dodatkami. 

Sebastian: Że ChatGPT jest fantastyczny, ale jednak nasze dane gdzieś lecą nie wiadomo gdzie. Tłumaczymy, że wklejanie badań medycznych, danych osobowych, wrażliwych danych firmowych nie jest dobre. Że SLM, czyli małe modele językowe, to fantastyczne narzędzia. Może nie skończyły studiów, jak LLM, ale można je samodzielnie doszkolić i przekazać swoje doświadczenie. Że potrzebujemy SLM, by móc uruchomiać je np. w różnych służbach, aby walczyć z szpiegami, przestępcami. ChatGPT mówi fantastycznie po polsku, ale nie urodził się w Polsce. Czasami musi znać smak polskiego salcesonu i widzieć że Polacy witają się bardziej "stara bida" niż "jak się masz? Super!".

Sebastian: Dokładnie i świetnie pokazała to premiera DeepSeeka gdzie rzuciliśmy się na darmowy model i wysyłaliśmy wszystko.

Sebastian: Nie biedniejszą! Inną do specjalizowanych zadań. Np. jeśli ChatGPT to metro, przewozi miliony pasażerów, szybko, przyjemnie, ale wymaga dużo prądu i obsługi, to jednak w małej, średniej firmie bardziej potrzebujemy furgonetki zwinnej, szybkiej, taniej. Mało tego, potrzebujemy i metra, i furgonetki, bo jednak pracownicy przyjadą metrem, ale trudno przewozić materiały na budowę również metrem.

Sebastian: O tak, uruchamiasz na swoim komputerze ustawiasz mu tzw. prompt systemowy w którym w wielu słowach budujesz całą personę Nasi członkowie na

prześcigają się w konkursach na nowe persony i twory. Wtedy możesz dzielić się z nim najskrytszymi tajemnicami a on będzie odpowiadał tak jak lubisz. 

Sebastian: Modele LLM czy SLM mają bardzo drętwe żarty i chyba nie mają poczucia humoru. Ale możemy właśnie promptem systemowym zbudować odpowiednią personę, która może będzie trochę ciekawiej przekazywać pewne informacje. Jednak żarty będą na poziomie wujków z wesela. 

Sebastian: Próbowałem wytłumaczyć Bielikowi Wasz żart i poprosić o podobny. "Czy wiesz, dlaczego piłkarze na ogół nie grają w szachy przed meczem? Bo na ogół nie mają czasu na ruchy", "Czy wiesz, dlaczego programiści na ogół nie używają kalkulatorów do pisania kodu? Bo na ogół wolą mieć kontrolę nad swoimi zmiennymi".

Sebastian: Podczas testowania naszego modelu często wykorzystywaliśmy różne osobistości np. Pudziana, Reksia i prosiliśmy o różne scenariusze. Były wybitnie kreatywne. Myślę że sama kawały to jeszcze nie, ale przygody Kapitana Bomby można spróbować.

Sebastian: Państwo ma trochę inne priorytety, tworzy pewien system możliwości. Kiedy są nakłady na naukę, badania, dostępność i bogactwo danych, to mamy wszystko, czego potrzeba. To są podstawy. A żeby państwo było innowacyjne, muszą istnieć ruchy open-source, open-science. Czyli takie organizacje jak nasza, które badają i tworzą nie na zamówienie, bez strachy, że nagle przyjdzie jakiś szef i wszystko pozmienia albo ktoś zamknie projekt. Zatem Bielik i Spichlerz muszą być niezależne, finansowane z innych środków niż państwo. Tak narodził się Linux, który jest wszędzie, w każdym telefonie jest cząstka linuxa. Dlatego bardzo współpracujemy z ośrodkami naukowymi, z ministerstwami, ale chcemy być niezależni. Jako open-badacz chcę mieć możliwość zmienić mój plan badań. Mogę dziś zdecydować że będę trenował model do gwary śląskiej.

Sebastian: Nie. Pochodzimy ze środowisk biznesowych, dlatego wiemy czym są venture capital, czym są dotacje unijne, jednak chcemy celowo być niezależni. Prosimy państwo o wsparcie w formie PR, konferencji czy konsultacji. Ale co do zasady wolimy zbierać na

i szukać sponsorów. Jak u sportowców: na plecach logo, setki firm, ale nikt nie mówi nam, jak trenować. Ale oczywiście mega cieszymy się, jak nasi wolontariusze zakładają swoje startupy, zaczynają prace w deeptechach bo rodzi nam to nowe partnerstwa, współpracę. 

To jest liczba projektów które narodziły się na Ubuntu Linux, a ten narodził się na darmowym Linuxie, to tam jest moc: 

Sebastian: Ja nie lubię nazwy sztuczna inteligencja, nienawidzę. Czy coś sztucznego zrobiło coś dobrego? Np. aspartan, sztuczny cukier.

Sebastian: Sztuczne biodro jak i szczęka jest okej. ale kto chcę je mieć, jeżeli nie musi? Ale dobrze, w latach 60. niektórzy chcieli to nazwać "Augmented Intelligence", nawet literki byłyby takie same. No i właśnie, jak podchodzimy do sztucznej inteligencji i wdrażamy ją jako automatyzację, to mamy obniżkę kosztów i nic poza tym. Ale jak wdrażamy AI jako kolaboratywną, czyli wspomagającą to nagle mamy zwrot kosztów siedmiokrotny.

Sebastian: To jak człowiekiem i łopatą. Ma narzędzie, ale może mieć lepsze, na przykład koparkę. Wtedy znacznie szybciej i lepiej pracuje. Jednocześnie nie ma mowy o autonomicznej, inteligentnej koparce, która sama będzie uważała na rury i kable, odczytywała zagrożenia i umiała współpracować ze wszystkim, co się dzieje na budowie.

Sebastian: Badania mówią, że jak np. wdrażamy ja jaką super moc dla nas, to nie spadają nie tylko koszty, ale rosną wartości biznesowe. Dlatego uważam, że teraz jest czas, kiedy technolodzy robią swoje, a mistrzowie od zarządzania powinni tworzyć nowe stanowiska pracy, łączyć zespoły, tworzyć nowe modele biznesowe. Rewolucja z internetem spowodowała narodziny nowych modeli biznesowych, a nie tylko obniżkę kosztów. Dlatego Spichlerz stara się tutaj też powalczyć, szukać modeli biznesowych z wydawcami. Ja np. pokazuję, jak wdrożyć AI w redakcji, ale nie po to, aby zredukować 10 osób do 2 osób, tylko bardziej zbudować zespół 12 osób + AI, który tworzy szybciej artykuły, które lepiej lojalizują, konwertują i sprzedają. Czyli żaden zarząd nie zwolni redaktorów, jak ich artykuły lepiej sprzedają się za paywallem. 

Sebastian: Jest taka fajna okładka, tylko trochę się zestarzała. Trzeba skreślić AI i wstawić biznes, politics itp. 

Co do komputerów kwantowych: Ostatnio zapytałem pewnego profesora, który obierał nagrodę za kwantowe technologie a ja za AI, czy już mogę szukać pracy i czy technologia kwantowa jest już dla informatyków czy wciąż dla fizyków. Odpowiedział, że wciąż dla fizyków, zatem nic mądrego nie powiem. Wstyd przyznać ostatni raz fizykę dotykałem na studiach z 30 lat temu.

Sebatian: Ja jestem dość długo w branży AI i jakoś żyłem w bańce, że tych specjalistów pionerów od LLM/SLM w Polsce jest mało. Nagle, jak tworzymy Bielika to bum, ludzie sami się uruchamiają, zgłaszają uwagi do kart projektu, nagle 3000 osób na Discordzie. Ci ludzie są poukrywani w firmach, gdzie robią czasami nudne prace IT, a wiedza wdrożeniowa z nich kipi.

Sebastian: Musieli ją nabyć sami w nocy, poza firmą. To jest niesamowite! Myślę, że tu jest jakiś gen Polaka prawdziwego, który leczy się sam, buduje domy sam, ma ułańską fantazję i nie ma rzeczy niemożliwych, takie pozytywne „szwagier, potrzymaj mi piwo”. Zatem mamy najlepszych młodych naukowców na świecie z AI, patrz zespoły OpenAI czy Łukasz Kaiser który jest współautorem legendarnego artykułu

. Od nich się zaczęło i nagle mamy najlepszych wdrożeniowców i entuzjastów. No i jeszcze Cyfronet najlepsi specjaliści w Europie do superkomputerów zwłaszcza w obszarze trenowania LLM i SLM. No z nimi właśnie zaistniała taka mega synergia wiedzy! Po prostu open-science.

Sebastian: Dla mnie ważne śmieszki są z przesłaniem, czyli Attention Is All You Need.

Wielu startupców robiło przełomy, tak naprawdę używając ChatGPT.  W Polsce startupowcy mają lepiej, mogą pobrać Bielika dostroić i stworzyć naprawdę przełomowe usługi. No i na koniec WSPIERAJCIE NAS! Dołączcie do naszego Discorda, bo ruszamy z projektem Sójka czyli można wieczorami klasyfikować groźne teksty które pomogą nam stworzyć model ochroniarza. Rusza też Obywatel Bielik, gdzie będziemy prosić o robienie i opisywanie zdjęć. Nie artystycznych tylko codziennych: krzesło, salceson, schabowy, rozwalający się dom, piękny zabytek lub ptaszka. To wszystko pomoże nam budować nowe modele, a Wam być w przełomowych projektach, gdzie z imienia i nazwiska, jeśli będzie chcieli, wymienimy Was w napisach końcowych.