EP189 · Työkalut · 2023-04-27
Tekoäly käyttöön Cloud1 Vuo AI | Harri Puupponen, Pasi Jokinen | Neuvottelija 189
Cloud1:n perustaja Harri Puupponen ja Vuo AI:n Pasi Jokinen käyvät läpi, miten kielimallit otetaan yrityksissä oikeasti käyttöön. Jakso on nauhoitettu huhtikuussa 2023 muutama viikko GPT-4:n julkaisun ja AutoGPT:n läpimurron jälkeen, ja kysymykset kirjoitti GPT-4. Sisältää neuvottelijan kannalta käyttökelpoisimman yksittäisen niksin — näkökulmaistamisen — sekä AutoGPT:n määritelmän etuotsalohkon vastineena, anekdootin pankista, jossa on töissä 13 000 hallusinoivaa instanssia, demon siitä miksi GPT-4 ei pääse yli liian usein toistuvasta koulutusdatasta, Bengt Holmströmin tiedollisen tasa-arvon due diligencessä ja arvion siitä, milloin GPU-kapasiteetti loppuu kesken. Julkaistu 27.4.2023.
Tekoäly käyttöön | Harri Puupponen, Pasi Jokinen
Tiivistelmä: Jaksossa 189 Sami Miettinen haastattelee Cloud1:n perustajaa Harri Puupposta ja Vuo AI:n Pasi Jokista siitä, miten suomalaisyritykset ja yksittäiset ihmiset saavat kielimallit oikeasti käyttöön. Jakso on nauhoitettu huhtikuussa 2023, muutama viikko GPT-4:n julkaisun ja AutoGPT:n läpimurron jälkeen. Julkaistu 27.4.2023.
Jakson asetelma: kysymykset kirjoitti GPT-4
Jakso alkaa poikkeuksellisesti. Vieraat olivat käyneet keskenään pitkän WhatsApp-langan tekoälystä, ja keskustelun pohjaksi pyydettiin GPT-4:ää muotoilemaan kummallekin kaksi kysymystä. Kysymykset luetaan ääneen sellaisenaan ja niihin vastataan. Asetelma on myös jakson ensimmäinen argumentti: malli tuottaa kysymyksiä, jotka kestävät asiantuntijoiden edessä lukemisen. Jokinen huomauttaa, että GPT-4:n kysymys perustui hänen omaan “Sami-GPT:hensä” — Miettisestä syötettyyn aineistoon.
Vuo AI: tietokirjan korvike ja promptityökalut
Pasi Jokinen kuvaa Vuo AI:n tavoitteen suoraan: rakentaa tekoälyllä ratkaisu tietokirjan korvikkeeksi. Perustelu on kokemuksellinen. Jokainen, joka on avannut ChatGPT:n, on huomannut kaivavansa mistä tahansa aihealueesta syvällistä sisältöä nopeammin kuin kirjaa lukemalla, ja siitä syntyy intuitio, että tiedon välittämisen, oppimisen ja teoreettisten mallien soveltamisen tulevaisuus on tässä suunnassa.
Yhtiön valinta on olla rakentamatta mallia itse. Jokinen sanoo suoraan pelon, joka ohjaa koko alaa: mitä tahansa rakennatkin, kolmen kuukauden sisään teknologinen kehitys voi hypätä ylitsesi ja tehdä työstäsi tarpeetonta. Siksi Vuo AI etsii kulmakiviä, jotka kestävät alla tapahtuvan kehityksen. Tärkein niistä on rajapinta — ihmisrajapinta ja rajapinta toisiin koneisiin. Käytännössä se tarkoittaa prototypointityökalua, jolla voi nopeasti testata komplekseja promptteja ja promptiyhdistelmiä ja käyttää niitä ohjelmallisesti hyväksi.
Tavoitteen hän kiteyttää palvelumuotoilijan roolin kautta: siinä missä service designer ennen kuvasi asiakkaan toiveen ja välitti sen eteenpäin tekemättä muuta, nyt hänelle voidaan antaa työkalut olla keskeisessä roolissa ohjelmiston logiikan luomisessa — promptien kautta. Konkreettisin esimerkki on jakson hauskin: hänen poikansa rakensi työkalun, joka ottaa lapsen toiveen ja kirjoittaa sen uusiksi muotoon, jonka äidin on helppo ymmärtää ja johon äidin on helppo sanoa kyllä. Ensimmäinen sovellus oli viikkorahan korottaminen kymmeneen euroon.
Cloud1: datatalo, jolle OpenAI toi uuden liiketoiminta-alueen
Harri Puupponen lähestyy aihetta vastakkaisesta suunnasta ja hieman vastahakoisesti. Cloud1:llä koneoppiminen on ollut vuosia tavallista projektityötä datan ja analytiikan ympärillä, ja datapuolen ihmisten kesken “AI” on ollut sana, jota katsotaan pahalla: keskustelu on liian populaaria, ja teknisiin faktoihin mentäessä löydetään aina, ettei kyseessä olekaan oikea tekoäly. ChatGPT:n ja OpenAI:n myötä hän sanoo antaneensa itselleen luvan puhua tekoälystä.
Liiketoiminnallisesti hänen pointtinsa on täsmällinen. Cloud1 tekee Suomen isoimmille yrityksille töitä datan kanssa, ja kiinnostavinta OpenAI:ssa on mahdollisuus rakentaa asiakkaalle oma ChatGPT tämän omalla yritysdatalla, jota ei haluta päästää mihinkään hallitsemattomaan tilaan. Tämä on Cloud1:n yksi tulevaisuuden liiketoiminta-alue.
Miettinen kysyy suoraan, miksi “vähän tylsä Azure-pilviyhtiö” on yhtäkkiä kiinnostava — taustalla on Voland Partnersin 40 miljoonan euron rahasto ja Kauppalehden uutisointi kiinnostuksesta Cloud1:tä kohtaan. Puupposen vastaus on kapean tontin puolustus: yhtiö valitsi pilvestä nimenomaan datakulman ja ennusti, että pilvi ja data tuovat kasvua. Näinhän siinä kävi, ja kysyntä kasvaa nyt nopeammin kuin markkina pystyy tarjoamaan.
Käytännön neuvotteluetu: näkökulmaistaminen
Jakson välittömästi hyödyllisin osuus on Jokisen kuvaus siitä, mitä yksittäinen ihminen voi tehdä jo nyt. Hän kutsuu sitä näkökulmaistamiseksi. Jos päässä on kompleksi tai tunteellisesti vaikea ajatus, ihminen ei lennosta kykene kuvaamaan sitä toisen näkökulmasta — lähimuisti ei yksinkertaisesti riitä kääntämiseen. Heitä asia ChatGPT:lle ja pyydä kuvaamaan se toisen henkilön näkökulmasta, ja lopputulos on huikea.
Miettisen kirjan Uusi neuvotteluvalta (WSOY) näkökulmasta tämä osuu ytimeen: neuvottelun lähtökohta on lähes aina se, että pystyt kuvaamaan oman tarpeesi toisen näkökulmasta ja toisen tarpeista käsin. Se on perusrakennuspalikka, jonka päälle muu rakentuu.
Toinen käytännön vinkki on tekninen ja vähemmän tunnettu. Älä pyydä mallilta “frameworkkeja” tai “malleja” vaan tieteellisiä algoritmeja tietyn ongelman ratkaisemiseksi — Jokisen kokemuksen mukaan juuri sana algoritmi tuottaa parhaat tulokset. Saat listan parhaista malleista, valitset yhden, ja pyydät mallia kysymään sinulta kontekstin lisätiedot, jotta se voi ajaa mallin sinun keissiisi.
Suljettu hierarkia, markkina vai verkosto
Miettinen tuo keskusteluun tulevaisuudentutkija Risto Linturin kanssa käydyn keskustelun organisaatioteoriasta: joissakin tilanteissa kannattaa tehdä asiat itse suljetussa hierarkiassa, koska transaktiokustannukset poistuvat ja direktio-oikeudella voi ohjata tekemistä maksamatta markkinakorvausta; toisissa tilanteissa ongelma kannattaa työntää markkinalle tai kumppaniverkostoon. Kysymys on, mitä tekoäly tekee näille rajapinnoille.
Puupposen vastaus on, että hierarkian sisällä malli voi toimia todella tehokkaasti, mutta kaikesta ei tarvitse maksaa, jos osaa kauniisti pyytää — ja jos tekoälyn voi valjastaa pyytämään kauniisti, kustannustaso laskee. Jokinen laajentaa tämän luottamustilin konseptiksi: organisaatioiden ihmiset jakavat myös ei-monetaarisia palveluksia sen mukaan, kehen luotetaan. Vertauskohtana hän käyttää valtioiden monenkeskisiä blokkeja, joissa yhteistyö ei ole transaktiorahaa vaan luottamuksen piiri. Tekoäly voi luoda keinoja, joilla luottamusta lisätään ja monistetaan.
Puupposen oma esimerkki on tietokirjan lukeminen ChatGPT:llä: hän pyytää mallia referoimaan kirjaa kappale kerrallaan pääkohtineen ja olennaisine esimerkkeineen, koska motivaatio ei riitä 200 sivun kahlaamiseen sen muutaman asian vuoksi, joka kirjasta jää päähän. Miettinen huomauttaa, että tästä päästään suoraan tekijänoikeuskysymykseen.
AutoGPT — tekoälyjen tekoäly
Jokinen esittelee AutoGPT:n, joka jaksoa nauhoitettaessa oli vajaan kuukauden vanha ja kasvattanut GitHubissa suosiota nopeammin kuin mikään avoimen koodin tuotos aiemmin. Määritelmä on hänen paras yksittäinen muotoilunsa: AutoGPT on executive function, etuotsalohkon vastine GPT:lle. Siinä on loop, joka pyörittää ongelmanratkaisua. Sille annetaan geneerinen ongelma, se pyytää GPT:tä rikkomaan sen osaongelmiin, hakee Googleen nojaten ratkaisumallin kuhunkin ja rakentaa laajenevaa verkkoa siitä, miten pääongelma ratkaistaan.
Rajat tulivat nopeasti näkyviin. Kun jollekin instanssille annettiin tehtäväksi tuhota ihmiskunta — ChaosGPT — se päätyi lopulta vain twiittaamaan ihmiskunnan tuhoamisesta. Jokisen mielestä kiinnostavin yksityiskohta on kuitenkin budjetti: koska ajo hakkaa maksullista APIa vastaan eikä GPT-4 ole halpa, työkalulle annetaan budjettirajoite ja se rakentaa parhaan mahdollisen ratkaisupuun sen puitteissa. Miettinen tarttuu tähän: kun kompleksi haku maksaa eurosentteinä, freemium-malli ei voi olla kestävä.
Sitä, mihin tämä johtaa, Jokinen kuvaa omalla kokemuksellaan. Hän oli laatinut viisikohtaisen steppilistan siitä, miten mistä tahansa abstraktista ongelmasta saadaan nopeasti riittävä ymmärrys ja rakennetaan ammattilaiselle työkalu. Lista ajettiin käsin viitenä peräkkäisenä GPT-3-kutsuna. GPT-4:n tultua hän heitti kaikki viisi steppiä kerralla sisään — ja malli simuloi koko toteutuksen yhdellä kertaa. Hän kutsuu tätä kahden abstraktiotason nousuksi: malli ei vain suorita viittä tehtävää peräkkäin, vaan nousee ajatuksen yläpuolelle tavalla, joka “tuntuu tietoisuudelta, vaikka mä tiedän, ettei se ole sitä”.
Hallusinointi: “teillähän on töissä 13 000 hallusinoivaa instanssia”
Miettinen kysyy, onko hallusinointi reilu termi. Kumpikin vieras pitää sitä käyttökelpoisena — luovuudeksi sitä ei voi kutsua, ja se viittaa oikeaan suuntaan vaikkei osu täsmälleen.
Sitten tulee jakson siteeratuin anekdootti. Toinen vieraista kertoo keskustelusta erään suomalaisen suuren pankin kanssa, jonka juristit olivat asettaneet rajoitteen: ei saa tehdä applikaatioita, jotka hallusinoivat. Vastaus oli, että pankissa on töissä 13 000 hallusinoivaa instanssia — ja tämä kyseinen hallusinoiva instanssi vetää läpi Kalifornian bar examin ja tohtoritason loppukokeita. Ajatteletteko te ihmisiänne virheettöminä?
Sen jälkeen tulee rehellinen rajanveto. GPT-3 ja 3.5 -tasolla mihinkään tulevaan ei voi luottaa: joko ekspertti validoi, tai työkalua käytetään vain summarointiin, jolloin lähdedata on muualta. GPT-4:n kohdalla alkaa olla niin, että johonkin voi ehkä luottaa — ja hakutoiminnon yhdistäminen tuo mukaan kuratoidun datan ja reaaliaikaisuuden.
Missä malli on oikeasti huono: leijona, lammas ja kaali
Jakson paras yksittäinen tekninen demo koskee sitä, missä mallit epäonnistuvat järjestelmällisesti. Jos datasetti esiintyy koulutusmateriaalissa hyvin usein täysin määrämuotoisena ja siihen on olemassa yksi “oikea” ratkaisu, GPT-4 on lähes kyvytön pääsemään sen yli.
Esimerkkinä on klassinen jokipulma: rannalla on leijona, lammas ja kaali, veneeseen mahtuu yksi kerrallaan, ja väärä pari rannalla johtaa siihen, että toinen syö toisen. (Miettinen huomauttaa, että sama pulma oli Reaktorin kehittämässä tekoälykurssissa päätöspuun laatimisen harjoituksena.) Kun säännöt vaihdetaan — leijona syö lampaan ja leijona syö kaalin — malli ratkaisee tehtävän silti kuin perusmuotoisen. Kysy, menikö jotain pieleen, ja se myöntää virheen. Pyydä ratkaisemaan uudestaan, ja se tekee saman virheen. Pyydä luettelemaan kaikki sallitut ja kielletyt kombinaatiot, ja se luettelee ne oikein — ja tekee silti saman virheen.
Johtopäätös on yksi jakson terävimmistä lauseista: liian vahvasti toistuvalla frekvenssillä esiintyvä data tekee mallille mahdottomaksi päästä hallusinaatioharhasta yli. Se, mitä malli lopulta tekee, on seuraavan todennäköisimmän sanan ennustaminen.
Kestääkö kilpailuetu? Sepästä Jony Iveen
Miettinen esittää masentavan kysymyksen: jos rakennettaisiin Neuvottelija-tekoäly, jolle syötetään 189 jakson skriptit ja yhteisön viisaudet, jyrääkö geneerinen malli sen puolen vuoden päästä? Vastaus on lyhyt: on, kyllä.
Puupponen vie tästä omistajuuteen. Hyvän bisnesidean kopiointi on äärettömän helppoa, ja jos kopio on riittävän samanlainen mutta sen verran erilainen, että mennään lakien ohi, päädytään maailmaan, jossa on vaikea sanoa kuka omistaa mitäkin — voiko abstrakteja asioita enää omistaa. Hänen vastalääkkeensä ovat tunteet ja brändit: brändin voi kopioida, mutta sitä tunnetta, jonka brändi aiheuttaa, ei.
Jokisen vastaus on rakenteellisempi ja jakson omaperäisin ajatus. Satoja vuosia sitten kyläyhteisössä oli seppä, ja oli yhdentekevää kuoliko seppä ja tuliko kisälli tilalle, koska rooli oli se, mikä merkitsi — siksi maailma on yhä täynnä Smithejä. Nyt abstraktiotaso on noussut: meillä on uniikit nimet, ekspertiisialueita on miljoonittain, ja jokaisessa on huippunsa. Ihmiset eivät enää halua “designeria” vaan Jony Iven. Tämä osuu yksiin sen kanssa, miten kielimallit maailmaa mallintavat — niihin rakentuu supervahvoja symbolisia representaatioita nimikkeistä, joilla on tosi spesifi merkitys. Siksi hän uskoo, että kymmenenkin vuoden päästä tuotteet myydään ammattilaisten nimillä: AutoGPT-tuotesuunnitteluun otetaan Jony Ive -designeragentti, ja “Sami GPT tulee neuvottelemaan mun diilit, koska tiedän, että se on hirveän hyvä”. Ekspertin osaaminen ei katoa minnekään; se vain muuttuu kutsuttavaksi.
Validointiverkosto: neuvottelijan visio
Jokinen kiteyttää oman tulevaisuuskuvansa AutoGPT:n puutteen kautta. Työkalu luo ongelmanratkaisumallin omatoimisesti, mutta jokainen ratkaisuehdotus on jollakin tavalla puutteellinen — ne pitää validoida. Hänen visiossaan uuden liiketoimintamahdollisuuden kohdalla joku huipulla kirjoittaa master-kyselyn, siitä syntyy kymmenen korkean tason osaongelmaa, ja jokaisesta lähtee automaattisesti validointipyyntö verkoston huippuasiantuntijalle: hei, high level, onko tämä fine. Kolmessa sekunnissa tulee kuittaus, ja jokaisesta validoidusta osa-alueesta rakentuu kymmenen seuraavaa askelta, joiden alla sama toistuu. Lopputulos on minuuteissa tai tunneissa syntynyt, verkoston validoima resepti äärimmäisen kompleksiin ongelmaan — vaikkapa kokonaisen Apotin kokoisen järjestelmän suunnitteluun.
Puupponen tuo siihen puuttuvan palan: neuvottelussa on paljon tunnetta ja tulkintaa, mikroilmeitä myöten. Miettinen kertoo, että tätä on harjoiteltu kuvaamalla neuvotteluja ja analysoimalla mikroilmeitä — ja että hän itse joko kontrolloi tunteitaan hyvin tai on psykopaatti, kun taas toinen kaveri oli koko ajan jatkuvassa pelkotila-funktiossa. Puupposen jatkokysymys on olennainen: kun strukturoitu lähestymiskulma on kaikkien saatavilla AutoGPT:n kautta, erottava tekijä on se, kenellä on data mikroilmeistä — ja kohta kukaan ei halua antaa tällaista dataa julkisesti, koska se joutuu geneerisesti AI-syövereihin.
Luottamus, due diligence ja Holmströmin tiedollinen tasa-arvo
Yrityskauppapuolella Miettinen palaa haastatteluunsa nobelisti Bengt Holmströmin kanssa. Holmströmin huomio on tiedollinen: huutokauppaprosessissa investointipankki ottaa sata kontaktia, joista salassapitosopimuksen alla jaettujen infomemojen kautta jalostuu kymmeniä, näistä kourallinen tarjouksia, joille annetaan management-presentaatio ja lisää dataa, ja lopulta eksklusiivisuudessa datahuoneessa annetaan kaikki mahdollinen tieto. Myyjän etu on avautua täysin, koska silloin saavutetaan tiedollinen tasa-arvo, jolloin kusetus ei ole mahdollista ja saadaan täydellinen hinta.
Riski on ilmeinen: jos vastapuoli onkin troijalainen — samalla alalla toimiva kilpailija, joka ottaa kaiken tiedon ja vetäytyy strategiasyihin vedoten — vahinko on äärimmäinen, juridisista sanktioista huolimatta. Sen jälkeen taho on investointipankin kirjoissa mustalla listalla, ja Miettinen kysyy, kannattaisiko tieto saattaa laajemmalle.
Jokisen välimalliratkaisu on jakson konkreettisin tekoälysovellus yrityskauppaan: jos luotettu kolmas osapuoli — vaikka investointipankki — on validoinut avoimen DD-mallin, koneoppimismallit voivat ajaa due diligencen läpi ja antaa vain flageja: menee läpi, menee läpi. Vasta kun kaikki menee läpi ja tarjous on sitovampi, siirrytään täysin läpinäkyvään DD:hen. Ostajaehdokas saa lähes täyden validaation ja voi sitoutua enemmän. Miettinen tunnistaa tämän variaatioksi clean roomista, jota käytetään, kun kaksi kilpailijaa eivät saa jakaa markkinatietoa keskenään mutta luotettu kolmas osapuoli saa tiedon.
Toinen vieraista kertoo tähän liittyen rajat ylittävästä yrityskauppaprosessista, jossa ostajaa etsittiin globaalisti ja mukana oli toinen kansainvälinen investointipankki ylläpitämässä kommunikaatiota ostajaehdokkaan ja myyjän välillä. Olennaisin havainto oli, että kumpikaan osapuoli ei halua paljastaa mitään — varsinkaan hintaan liittyvää — ja että suurin arvo koko prosessissa syntyi siitä, kuinka kommunikaatiota öljyävä osapuoli sai jatkuvalla yhteydenpidolla vedettyä kummastakin hiukan lisää informaatiota esiin ja paljastettua sitä toiselle turvallisen oloisella tavalla. Siitä hän vetää johtopäätöksen, että kaikkiin suhteisiin tarvitaan investointipankki — ulkopuolinen taho, jolla on motivaatio saada yhteistyö toimimaan. Miettinen kutsuu tätä consigliere-ratkaisuksi ja lisää, että odotusten hallinnan psykologia on siinä keskeistä.
Puupponen sulkee kohdan sillä, mitä tekoäly ei tee: AI ei pysty luomaan luottamusta. Se syntyy viestinnän pienistä sanoista ja sanomattomista tilanteista, ja ne harvat ihmiset, jotka pystyvät luomaan luottamusta ilman kasvualustaa, ovat taito, jonka arvo vain kasvaa.
Playbookit, Conway’n laki ja organisaation muoto
Miettinen kertoo kysyneensä Blackstonen globaalilta toimitusjohtajalta kutsuvierastilaisuudessa, miten yhtiön playbookit ovat kehittyneet tekoälyn myötä. Playbook on yleinen toimintaohje, jota sovelletaan satoihin pääomasijoitusyhtiöihin: jos inflaatio nousee, mikä on se best practice, joka kaikkien portfolioyhtiöiden pitäisi ottaa käyttöön. Vastaus oli, että kehitys on huimaa, mutta siilot ovat osittain erillisiä eikä yhtiökohtaista tietoa voi jakaa — juuri geneeriset toimintamallit ovat niitä, joista anonymisoidulla datalla voi vetää todella hienoja reseptejä.
Jokinen rinnastaa playbookin AutoGPT:n ratkaisuhierarkiaan ja ennustaa, että tuotteiksi alkaa rakentua AutoGPT-tyyppisiä osaratkaisuja, jotka ovat liiketoiminnallisia kokonaisuuksia, ja niiden yläpuolelle esimerkiksi finanssimarkkinaan kytkeytyvä uusi abstraktiotaso, joka vaikuttaa playbookin tavoin kaikkiin alla oleviin. Jos resepti riittää kokonaisen tietojärjestelmän luomiseen, merkittävän muutoksen tullessa muutetaan ohjeistusta ja ajetaan luontiprosessi uudestaan läpi.
Tässä yhteydessä hän viittaa lakiin, jonka nimeä ei muista: kaikki kompleksit järjestelmät päätyvät noudattamaan sen luoneen yrityksen sisäisiä kommunikaatiorakenteita ja hierarkiaa. (Kyseessä on Conway’n laki, jota kumpikaan ei jaksossa nimeä.) Jos Microsoftilla on kolme ryhmää omine vastuineen, tuotteessa tulee olemaan kolme erilaista kokonaisuutta. Puupponen vahvistaa tämän omasta työstään: vaikka teknologialla voisi tehdä kuinka järkeviä asioita, teknologian käyttö peilautuu siitä, miten ihmiset ja liiketoiminta on organisaatiossa järjestetty — ja sen näköinen on lopputulos. Hänen johtopäätöksensä on, että rakenne pysyy mutta ihmiset korvautuvat vähitellen: matalan tason työt katoavat ja järjestelmän rooli kasvaa suhteessa ihmisten rooliin.
Office, Power BI ja WebGL — arjen tuottavuus
Miettinen veikkaa, että Office-ympäristöön tulee autopromptia ja suositusta: sähköpostin vastaukset muuttuvat kolmesta tyhmästä vaihtoehdosta suoraan tekstiksi. Puupponen vahvistaa suunnan Copilotin kautta ja nauraa, että hän “koodaa PowerPointilla” — kun omat PowerPointit muistuttavat toisiaan, työkalu voi generoida lopun otsikon perusteella. Klemmarin paluuta ennustetaan puoliksi vitsillä. Olennainen huomio on, että organisaation koko data Word-pohjista PowerPointiin on käytettävissä, jolloin mekaaninen työ nopeutuu ja se vaikuttaa välittömästi työn tuottavuuteen.
Power BI saa oman osuutensa. Puupposen mukaan se tuotiin data-analytiikan Excelin jatkeeksi ihmisille, jotka ajattelevat SQL:ää, ja juuri tämän alueen tekoäly jyrää kunnolla: ChatGPT auttaa Power BI:n tekemisessä hyvin paljon ja osaa kirjoittaa SQL:n peruslauseita, selkeyttää monimutkaista koodia ja kertoa, mitä pitää tehdä tiedon saamiseksi haluttuun muotoon.
Jokinen havainnollistaa koodauskykyä kahdella kokeella. Ensimmäinen pyyntö GPT-4:lle oli piirtää WebGL-skene, jossa on valkoinen taso, käyräviiva ja sateenkaaren värinen pallo, joka liikkuu alusta loppuun — ja malli teki sen Three.js-ympäristöön animoituna. Toinen pyyntö esitettiin suomeksi: animoi ratkaisu Tower of Hanoi -ongelmaan. Kolmas oli “kirjoita mulle valitsemallani ohjelmointikielellä virtuaalinen tamagotchi”, ja pohjat tulivat heti. Puupponen lisää pilvi-ihmisen jatkon: tee siitä pilveen soveltuva versio, jonka voi abstraktoida jonnekin pyörimään.
Tästä syntyy jakson hienoin yksittäinen oivallus tuottavuudesta. TikTokit ja nopealiikkeiset päätelaitteet ovat pilanneet ihmisten keskittymiskyvyn, mutta GPT-teknologialla on rajaton keskittymiskyky. Se on siis täydellinen komplementti ihmiselle, jonka huomiohorisontti on nolla: se antaa takaisin sen keskittymiskyvyn, jonka olemme itseltämme vieneet. Riittää, että jaksat 15 sekuntia kirjoittaa, heität sen menemään, palaat takaisin — ja se oli valmis.
Rautaraja: GPU:t, Azure-niukkuus ja edge
Jakson lopun rajoite on fyysinen. Jokisen väite on, että tärkein rajoite kielimallien hyödyntämiselle on yksinkertaisesti se, että hardiskapasiteetti loppuu. Kustannustehokkaasti rakennettavien applikaatioiden määrä on kasvanut kielimallien myötä ehkä tuhat- tai miljoonakertaiseksi, mikä tarkoittaa, että komputaation määrä räjähtää käsistä. Kysymys kuuluu, saako ensi vuodelle ostettua tarpeeksi OpenAI-API-instansseja.
Puupponen vertaa tätä koronan alkuun, jolloin Teamsin käytön yleistyessä kapasiteetti loppui pilvestä kesken. Nauhoitushetkellä GPT-4:ssä on käyttörajoitukset päällä ja sitä saa Azuresta vain Yhdysvalloista, ei Euroopasta — “meille myydään vähän niukkuutta”. Ensi vuoden osalta hän ei usko kapasiteetin olevan ongelma.
Miettisen vaihtoehto on edge computing: Apple vetää mallit päätelaitteisiin, joissa alkaa olla riittävän hyvät prosessorit, ja pilveen mennään vain tarvittaessa. Jokinen vastaa NVIDIAlla: GPU-laskentakapasiteetin kasvuennusteet ovat järjettömiä, mutta hänen väitteensä on, etteivät ne riitä — kysyntä ylittää saatavuuden nimenomaan kielimallien suorittamisen ja kouluttamisen puolella. Siitä päästään kapitalismiin: kuka lopulta saa ostettua kapasiteetin, pienet konesalinpitäjät vai suuret pilvitoimijat, kun investoinnit lasketaan kymmenissä tai sadoissa miljardeissa.
Mitä yhtiöt tarjoavat
Lopuksi molemmat saavat kuvata yrityksensä. Puupponen tekee sen nöyrästi mutta suorasti: Cloud1 toimii matalalla markkinoinnin ja myynnin näkökulmasta, mutta kapealla tontillaan — Microsoft, data, pilvi — se on omasta mielestään Suomen ykkönen. “Ei me olla mikään CGI tai Tietoevry, mutta meillä on todennäköisesti syvin osaaminen, koska me tehdään vaan ja ainoastaan tätä.”
Jokisen pitchi on kevyempi: jos annat Harrille rahaa, saat dedikoidun OpenAI-API-instanssin. Vuo AI rakentaa omalle tiimilleen välineitä, joilla siitä tulee maailman parhaita promptien ja käyttöliittymien tekijöitä kielimallien päälle, ja hän haluaa antaa niitä myös muille: jos haluat henkilöstösi soveltavan ja jakavan GPT:n päälle rakennettuja työkaluja myynnin tai HR:n ongelmanratkaisuun, sähköposti on [email protected].
Huomio lähteestä
Transkriptiossa on yksi noin 27,7 sekunnin katko kohdassa 00:55:40, keskellä WebGL-demojen kuvausta. Puhe katkeaa Tower of Hanoi -pyynnön jälkeen (“Taurahan on se”) ja jatkuu tamagotchi-pyynnöstä. Tämä artikkeli on kirjoitettu vain siitä, mitä transkriptio sisältää, eikä katkoa ole täydennetty päättelemällä.
Jakson kolmesta puhujasta kaksi on vieraita, eikä MacWhisper-transkriptiossa ole puhujamerkintöjä. Nimetyt attribuutiot perustuvat suoraan transkriptin evidenssiin (puhuteltu nimeltä tai itseään koskeva viittaus, jonka vain toinen vieraista on voinut tehdä). Kohdat, joissa puhujaa ei voi varmuudella tunnistaa, on merkitty “toinen vieraista”.
Katso jakso
Nauhoitus on Neuvottelija-kanavalla: Tekoäly käyttöön Cloud1 Vuo AI | Harri Puupponen Pasi Jokinen | Neuvottelija 189.
Osastot: Työkalut ja toteutukset + Tekoäly ja talous · Markdown: index.md · In English