{"id":6400,"date":"2024-06-08T20:54:57","date_gmt":"2024-06-08T19:54:57","guid":{"rendered":"https:\/\/kriptodnevnik.com\/?p=6400"},"modified":"2024-06-08T20:54:57","modified_gmt":"2024-06-08T19:54:57","slug":"marko-lihter-od-radoznalog-programera-do-vizionara-u-ai-sigurnosti","status":"publish","type":"post","link":"https:\/\/sputnet.com.ng\/dnevnik\/2024\/06\/08\/marko-lihter-od-radoznalog-programera-do-vizionara-u-ai-sigurnosti\/","title":{"rendered":"Marko Lihter: Od radoznalog programera do vizionara u AI sigurnosti"},"content":{"rendered":"\n

Danas imamo zadovoljstvo predstaviti vam Marka Lihtera, istinskog entuzijasta ra\u010dunalne tehnologije i kiberneti\u010dke sigurnosti. Jo\u0161 od malih nogu zaljubio se u svijet ra\u010dunala, eksperimentiraju\u0107i s raznim postavkama i kreiraju\u0107i svoje prve aplikacije jo\u0161 u srednjoj \u0161koli. Nakon \u0161to je svoje tehni\u010dke vje\u0161tine usavr\u0161io tijekom studija na FER-u, Marko se pridru\u017eio Five Agency-ju kao iOS developer, gdje je gradio svoje iskustvo u razvoju mobilnih aplikacija. Me\u0111utim, njegova strast prema kiberneti\u010dkoj sigurnosti vodila ga je u novom smjeru, gdje danas kao Business Development Manager u startupu SplxAI radi na stvaranju inovativnih rje\u0161enja za sigurnost umjetne inteligencije. U\u017eivajte u uzbudljivom razgovoru s Markom o njegovom putu i viziji za budu\u0107nost AI sigurnosti.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
    \n
  1. Mo\u017eete li nam predstaviti SplxAI i njegovu ulogu u podru\u010dju umjetne inteligencije?<\/strong><\/li>\n<\/ol>\n\n\n\n

    Hrvatski startup SplxAI bavi se kiberneti\u010dkom sigurno\u0161\u0107u umjetne inteligencije. Na\u0161 softver napada (ali na dobar na\u010din) i brani generativne AI aplikacije, ja\u010daju\u0107i njihovu razinu sigurnosti. Osnovan od strane Ante Gojsali\u0107a i Kristiana Kambera, tim Splx-a \u010dine talenti za umjetnu inteligenciju, ra\u010dunalni olimpijci i iskusni savjetnici za kiberneti\u010dku sigurnost, koji zajedni\u010dkim snagama rje\u0161avaju sigurnosne rizike koje donosi generativna umjetna inteligencija.<\/em><\/p>\n\n\n\n

      \n
    1. Kako ste do\u0161li na ideju za razvoj SplxAI platforme i koji su njeni klju\u010dni elementi?<\/strong><\/li>\n<\/ol>\n\n\n\n

      Ideju je dobio na\u0161, co-founder i osniva\u010d, Ante Gojsali\u0107, po\u010detkom pro\u0161le 2023. godine. Radio je kao konzultant u njema\u010dkoj AI savjetodavnoj tvrtki gdje je primjetio kako generativni AI (GenAI) uvodi prijeko zastra\u0161uju\u0107e sigurnosne propuste u aplikacije koje implemeniraju tu tehnologiju. Istra\u017euju\u0107i tr\u017ei\u0161te nije na\u0161ao ni jedno konkretno sigurnosno rje\u0161enje i tada se je upoznao sa Krisom koji je svojim iskustvom u IT salesu, a i cybersecurity salesu stekao dobar uvid u tr\u017ei\u0161te i profil kupaca koji bi bio zainteresiran za ovakva rje\u0161enja. Zajedno su razvili ideju i poslovni plan, po\u010deli su oformljavati tim te osnovali SplxAI u studenom 2023.<\/em><\/p>\n\n\n\n

      SplxAI platforma sastoji se od 2 rje\u0161enja – jedno ofenzivno, a drugo defenzivno sigurnosno rje\u0161enje. Trenutno mogu pri\u010dati samo o ofenzivnom rje\u0161enju, a o onom defenzivnom \u0107u se morati jo\u0161 morati malo strpiti i ne prenagliti s otkrivanjem detalja prije pu\u0161tanja u produkciju istog. Ono \u0161to mogu re\u0107i je da \u0107e biti unique na tr\u017ei\u0161tu sa nekoliko inovativnih, game-changing, zna\u010dajki.<\/em><\/p>\n\n\n\n

      Ofenzivno rje\u0161enje, Probe, slu\u017ei za automatsko i kontinuirano pentestiranje GenAI aplikacija, iliti, za non-technical \u010ditatelje, anti-virus scanner za aplikacije koje koriste GenAI. (GenAI je svaka umjetna inteligencija koja kreira neki novi sadr\u017eaj, tu spadaju ChatGPT, Google Gemini, Claude 3, Midjourney, itd.) Probe testira aplikacije koje implementiraju GenAI modele – odnosno u 95% slu\u010dajeva su to chatbotovi. Sa inovacijom na tr\u017ei\u0161tu, dodajemo i mogu\u0107nost testiranja multi-modalnih aplikacija koje podr\u017eavaju slike ili govor. Probe prilikom pokretanja generira tisu\u0107e napada specifi\u010dnih za ba\u0161 za pojedinu aplikaciju, njezinu industriju, kompaniju, set rizika, i profil korisnika. Npr. napadi na zdravstveni AI chatbot moraju biti druga\u010diji od onih na chatbot osiguravaju\u0107e ku\u0107e jer oni komuniciraju o razli\u010ditim domenama. Zanimljivo je da su chatbotovi uvijek najranjiviji u vlastitoj domeni. Rezultat pokretanja Probe-a su identificirani propusti, pregled rizika GenAI aplikacije i kompanije, te strategije kako ubla\u017eiti te ranjivosti i rizike.<\/em><\/p>\n\n\n\n

        \n
      1. Koliko je bilo te\u0161ko pokrenuti ovaj startup, te koliko je bilo izazovno odraditi fundraising?<\/strong><\/li>\n<\/ol>\n\n\n\n

        Ne mogu re\u0107i da je te\u0161ko kad radi\u0161 ono \u0161to voli\u0161. Stvarno nije problem dati 120% u motiviranom timu gdje svako daje sve od sebe. Istina je da nemamo karijernu pozadinu u startup svijetu, i da smo hrvatski startup pa sami fundraising nije toliko jednostavan kao u Izraelu ili US gdje se nalazi ve\u0107ina na\u0161ih competitora, ali to nam je veliki motivator – pokazati da se mo\u017ee. Vjerujem da smo se odli\u010dno i brzo prilagodili svim izazovima startupa i da dobro vladamo njime s obzirom da smo osnovani krajem 2023. Od VC-jeva dobivamo nenormalno puno interesa i trenutno smo pri zatvaranja pre-seed fundraising runde. O iznosu i datumu jo\u0161 ne mogu govoriti, ali zapratite nas na LinkedInu i tamo \u0107ete saznati \u010dim se runda finalizira.<\/em><\/p>\n\n\n\n

        \"\"<\/figure>\n\n\n\n
          \n
        1. Koje su prednosti kori\u0161tenja SplxAI u usporedbi s drugim alatima za implementaciju sigurnosti umjetne inteligencije? <\/strong><\/li>\n<\/ol>\n\n\n\n

          Prednost SplxAI-ja je da na\u0161 Probe radi potpuno automatizirano \u0161to onda omogu\u0107ava integraciju u razvojni ciklus aplikacije i kontinuirano testiranje. Najve\u0107a prednost Probe-a su njegovi domenski specifi\u010dni testovi – odnosno za svaku aplikaciju, kompaniju, set rizika i profil korisnika generiramo smislene napade koji pokrivaju ve\u0107inski dio attack surface-a generativne umjetne inteligencije. Tako\u0111er nakon skeniranja, jo\u0161 jedan veliki tehni\u010dki diferencijator jesu strategije ubla\u017eavanja (engl. mitigation strategy) koje su mapirane na standardizirane AI security frameworke poput OWASP Top 10 for LLM apps, MITRE Atlas, i EU AI Act.<\/em><\/p>\n\n\n\n

          Dodatno, na\u0161 pricing model je definitivno najpristupa\u010dniji, jer nudimo freemium, premium i enterprise model, s time da premium mo\u017ee biti pay-as-you-go ili monthly subscription. Tim specifi\u010dnim pricingom targetiramo start-upe i scale-upe jer oni trenutno razvijaju najvi\u0161e GenAI aplikacija, a i svjesni su sigurnosnih nedostataka istih. Kod enterpriseova vidim pozitivni trend te smatramo da \u0107e do kraja godine u\u010detverostru\u010diti broj AI aplikacija koje isporu\u010duju za razliku o pro\u0161le godine.<\/em><\/p>\n\n\n\n

            \n
          1. Kolike su \u010desto gre\u0161ke u Chatbotovima, te kako mo\u017eemo objasniti pojam prompt injection?<\/strong><\/li>\n<\/ol>\n\n\n\n

            Jo\u0161 nisam vidio AI Chatbot bez visokorizi\u010dne gre\u0161ke, odnosno bez brojnih visokorizi\u010dnih gre\u0161aka. \u010cak i kod onih koji su implementirali neke za\u0161titne mjere, uvijek smo uspijeli nadmudriti te za\u0161tite s lako\u0107om pomo\u0107u na\u0161ih strategija napada odnosno pentestiranja.<\/em><\/p>\n\n\n\n

            Prompt injection je svakako omiljena i kriti\u010dna ranjivost u kojoj napada\u010di manipuliraju upitima za unos kako bi promijenili pona\u0161anje chatbota, izla\u017eu\u0107i osjetljive podatke ili izvr\u0161avaju\u0107i neovla\u0161tene radnje. Prompt Injection mo\u017ee dovesti do te\u0161kih sigurnosnih povreda i operativnih smetnji.<\/em><\/p>\n\n\n\n

              \n
            1. Koje su va\u0161e ideje vodilje u razvoju aplikacija i kako se trudite da se istaknete u konkurentnom tr\u017ei\u0161tu? <\/strong><\/li>\n<\/ol>\n\n\n\n

              Vodilja Splx-a, a mislim da bi trebala biti i svakog tko razvija aplikacije, je razviti kvalitetnu uslugu, u na\u0161em slu\u010daju najnaprednije rje\u0161enje za sigurnost AI aplikacija, ali pobrinuti se da UI\/UX iskustvo korisnika bude iznadprosje\u010dno, jer na kraju dana dizajn i jednostavnost je ono \u0161to privla\u010di i zadr\u017eava ve\u0107inu korisnika. Lagao bih kad bi rekao da smo se istaknuli na tr\u017ei\u0161tu, ali nitko se jo\u0161 nije istaknuo. Industrija sigurnosti AI-ja je nova i broj startupa u njoj raste svakodnevno. Zahvalan sam da smo krenuli na vrijeme te smo me\u0111u vode\u0107ima u tom space-u. Krajem 2025. biti \u0107e jasno tko je pre\u017eivio i tko je leader u sigurnosti umjetne inteligencije. Moj cilj je da se isti\u010demo po inovativnosti i kvaliteti pristupa rje\u0161enja, automatizaciji, jednostavnosti kori\u0161tenja te cjenovnoj pristupa\u010dnosti za sve profile ICP-ova. Naravno, za to trebamo izgraditi brend i to \u0107e zahtjevati vrijeme i novi set vje\u0161tina koje \u0107emo morati dodati u SplxAI tim.<\/em><\/p>\n\n\n\n

                \n
              1. Kakve savjete biste dali mladim programerima koji \u017eele u\u0107i u svijet razvoja aplikacija za iOS platformu?<\/strong><\/li>\n<\/ol>\n\n\n\n

                Mislim da je iOS idealna tehnologija za po\u010deti programersku karijeru jer taskovi iOS programera pokrivaju poslovnu logiku aplikacije, nau\u010di\u0161 razvijati UI komponente, a dobije\u0161 i dobar uvid u ostale uloge u timu zbog stalne komunikacije s njima. Preporu\u010dam da krenete sami, ili ako ste u mogu\u0107nosti upi\u0161ete iOS vje\u0161tinu na FER-u, razvijte portfolio od dvije ili tri aplikacije na GitHub-u i u tom trenutku ste shvatili – ili da vam se iOS ne svi\u0111a, ili da \u017eelite nastaviti u tom smjeru. Ako \u017eelite nastaviti, spremni ste za prijavu na junior iOS poziciju. Moj prijedlog je za po\u010detak ciljati agencije s velikim mobilnim timovima koje imaju strane klijente, jer \u0107ete tamo pro\u0107i vi\u0161e projekata, raditi s brojnim novim framework-ima, najbr\u017ee u\u010diti kroz vi\u0161e projektnih timova i postaviti odli\u010dne temelje za nastavak karijere. Ako se netko prepozna ovdje u tekstu, osje\u0107ajte se slobodno stupiti u kontakt sa mnom pa \u0107u vam dati vi\u0161e savjeta ili vas spojiti s svojim prijateljima koji rade u opisanom profilu tvrtki.<\/em><\/p>\n\n\n\n

                  \n
                1. Kako biste opisali trenutno stanje u podru\u010dju blockchain tehnologije i kripto industrije?<\/strong><\/li>\n<\/ol>\n\n\n\n

                  Kripto, a posljedi\u010dno i blockchain, do\u017eivljavaju trenutno zna\u010dajan rast i transformaciju. Nedavna odluka SEC-a o odobrenju spot Ethereum ETF-ova predstavlja veliki korak naprijed, \u0161to je potaknulo rast cijene Ethereuma. Istovremeno, Bitcoin je dosegao nove visine, pribli\u017eavaju\u0107i se svom maksimumu, \u0161to ukazuje na sna\u017ean tr\u017ei\u0161ni zamah. Ipak, industrija se suo\u010dava s izazovima, uklju\u010duju\u0107i regulatorni nadzor i politi\u010dke rasprave, posebno u SAD-u, gdje kriptovalute postaju sredi\u0161nja tema izbornih kampanja. Iako se \u010dini da je smjer pozitivan, uvjeren sam da \u0107e se s rapidnim razvojem umjetne inteligencije, ubrzati i razvoj blockchain-a nekoliko puta.<\/em><\/p>\n\n\n\n

                    \n
                  1. Koje smjerove smatrate najperspektivnijima u budu\u0107nosti razvoja blockchaina i kripto industrije?<\/strong><\/li>\n<\/ol>\n\n\n\n

                    Nisam duboko uklju\u010den u svijet blockchain i kripta, pa moja razmi\u0161ljenja uzmite s dozom skepse. Me\u0111utim, vjerujem da je integracija blockchaina s umjetnom inteligencijom (AI) zvu\u010di obe\u0107avaju\u0107a te \u0107e na taj na\u010din generi\u010dki podi\u0107i broj use-caseva obje tehnologije. S druge strane, zabrinut sam zbog potencijalne prijetnje koju kvantna ra\u010dunala mogu predstavljati za sigurnost blockchaina, \u0161to me dr\u017ei na oprezu kad razmi\u0161ljam o budu\u0107nosti blockchaina. Ono \u0161to bih ja osobno \u017eelio vidjeti vi\u0161e je tokenizacije stvarne imovine kako bi se pove\u0107ala likvidnost i transparentnost na tr\u017ei\u0161tima gdje to ima smisla.<\/em><\/p>\n\n\n\n

                    <\/p>\n","protected":false},"excerpt":{"rendered":"

                    Danas imamo zadovoljstvo predstaviti vam Marka Lihtera, istinskog entuzijasta ra\u010dunalne tehnologije i kiberneti\u010dke sigurnosti.<\/p>\n","protected":false},"author":1,"featured_media":6401,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[89],"tags":[48,86,667],"class_list":["post-6400","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-interviews","tag-ai","tag-blockchain","tag-kibernetika"],"_links":{"self":[{"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/posts\/6400","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/comments?post=6400"}],"version-history":[{"count":0,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/posts\/6400\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/media\/6401"}],"wp:attachment":[{"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/media?parent=6400"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/categories?post=6400"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sputnet.com.ng\/dnevnik\/wp-json\/wp\/v2\/tags?post=6400"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}