AI inženjer: AI je alat i alati ne mijenjaju ljude

Tijekom ovogodišnje Shift konferencije u Zadru, razgovarali smo s jednim od keynote izlagača - Tejasom Kumarom, AI inženjerom u tvrtki DataStax.

Nakon što je na svom izlaganju pričao o trenutnom stanju AI inženjeringa, ali i kako će ono izgledati u budućnosti, uhvatili smo ga nakratko da porazgovaramo o još nekim temama kojima se nije pozabavio na izlaganju - ili barem ne u neke pretjerane detalje. 

Razgovor vam donosimo u cijelosti u nastavku: 

Imate li neki najdraži AI alat ili funkcionalnost koju koristiš?

Imam, prije sam radio u Vercelu i sada radim na Vercel AI SDK-u. To je odličan komad softvera s dobrom razinom apstrakcije što je odlično za rad s LLM-ovima pa možeš raditi s OpenAI, Anthropicom, Mistralom tj. možeš koristiti bilo koju organizaciju, a da ti kod ostane isti. Prekrasna apstrakcija i omogućava lagano pozivanje funkcija.

Na svojem keynote predavanju ste spomenulu SLM-ove. Možete li malo pojasniti kako nam oni mogu pomoći?

LLM-ovi imaju ograničenja gdje oni „ne znaju“ najsvježije podatke jer se gubi puno vremena za treniranje pa podaci postaju stari, odnosno dostupni su do određenog dana. Na primjer, ne znaju kada let moje majke dolazi jer ne znaju tko je moja majka i nemaju podatke u stvarnom vremenu o letovima. Sve se to može riješiti tehnikom koja se zove RAG i SLM-ovima, gdje se unaprijed mogu dohvatiti podaci o letovima i dostaviti ih LLM-u preko Interneta, a on će onda dostaviti sve podatke o kašnjenju leta moje majke. Budućnost ovoga je na krajnjem uređaju jer na svojem uređaju imamo razne podatke, email, telefon i pristup kalendaru, a sve to lokalno bez pristupa Internetu i ako lokalni LLM tj. SLM ima pristup tim informacijama može biti jako dobar sustav za pomoć, a to se sve može napraviti kroz RAG. Dohvaćaš kontekst i dostavljaš ga lokalnom LLM-u (SLM-u) na uređaju. To trenutno radi Apple s Apple Intelligence i mislim da je to put kako će se koristiti u budućnosti.

Hoće li AI zamijeniti developere?

AI je alat i ako gledamo alate kroz ljudsku povijest nikada ne zamijene ljude. Alati zamijene profesionalne funkcije, ali ne ljude. Ranije na predavanju sam spomenuo primjer pripreme kave. Ako želim espresso samo stisnem gumb. Ja osobno ne volim stisnuti gumb nego uzmem zrna i mlin za kavu i napravim si espresso. Jednostavno taj način izrade mi pruža zadovoljstvo i tako će biti i s developerima - bit će ljudi koji će razvijati. Za mene osobno, čak i ako me ne bi plaćali ja bih i dalje programirao. Drugo je pitanje hoće li AI zamijeniti radnu snagu? Mislim da je to realno. To već vidimo u raznim tvrtkama. Puno tvrtki radi puno više s puno manje ljudi i to će biti sve gore.

Hoće li juniorima biti teže raditi budući da koristeći AI alate neće imati dubinsko razumijevanje problematike koju rješavaju, a koje su imali današnji seniori?

To jako ovisi o junior developeru. Radio sam s različitim junior developerima i neke nije briga. Samo žele riješiti problem i otići kući. Takvi će biti zamijenjeni sigurno, a i trebaju biti zamijenjeni. Jer ako si ovdje i radiš minimalno i nije te briga, zašto si uopće ovdje? Npr. ja, ja jesam junior developer u programskom jeziku kao što je Python ili Fortran. Koristio bih ChatGPT da mi ponudi rješenje, a nakon toga bih ga tražio zašto je ponudio takvo rješenje. Uvijek bi išao dublje, a i junior developeri koje zanima kako je nešto riješeno će eksponencijalno rasti, rast će brže nego bilo koji drugi junior developeri u prethodnim generacijama, a i vrijeme od juniora do seniora će biti jako kratko što je odlično.