AWS kehittäjäpäivät Helsingissä

Kävimme Samin kanssa AWS:n kehittäjäpäivillä Helsingissä tutustumassa mielenkiintoiseen kattaukseen. Sama setti oli tarjoiltu paria päivää aikaisemmin Tukholmassa. Tapahtumassa oli tarjolla mielenkiintoiset workshopit serverless arkkitehtuureista ja mobiilikehittämisestä AWS työkaluilla. Mutta kolmelle träkille jaetut luennot/demot palvelivat omaa tiedonnälkää enemmän. Träkit olivat serverless arkkitehtuurit, konttiteknologiat ja tietysti AI. Noista itseäni kiinnosti eniten serverless arkkitehtuurit ja AI.

Liikkeelle Porin seudulta pitää tietysti lähteä ennen kuin kukko on laulanut ja fakta on, että se ottaa hiukan tehoja pois iltapäivästä. Kattaus oli jo agendan mukaan sen verran hyvä, että ei annettu sen haitata. Päivä alkoi tietysti rekisteröitymisellä ja sen yhteydessä T-paitojen jaolla ja aamupalalla. Ensimmäiset sessiot kullakin träkillä oli yleisluontoinen katsaus aiheen nykytilaan. Katsoimme alkusetin AI-träkillä ja se vaikutti niin mielenkiintoiselta, että päätimme pysyä samassa huoneessa koko päivän.

Sessioiden taso vaihteli yksinkertaisista esittelyistä aina 8 GPU:n, 488 muistigigan monsterin säikeiden ja muistin käytön optimointiin mallien opettamisessa. Kuten muillakin osa-alueilla AWS:n palvelut koostuvat tasoista, joissa oma vastuu ja vaikutusmahdollisuudet vaihtelevat. Ylimmällä tasolla on täydelliset palvelut joita voi ruveta heti käyttämään APIen kautta. Toisella tasolla on palvelut, jotka kootaan itse pienemmistä palasista. Ja kolmannella tasolla on täysin räätälöitävät kokonaisuudet, joissa ainoastaan infran ylläpidon ja skaalaamisen huoli on poistettu.

Ylin taso, valmiit palvelut

Ylimmän tason esimerkit olivat kuvien, videoiden, tekstin ja puheen analysointia valmiiden palvelujen avulla. Demoissa analysoitiin em. materiaaleja, sekä luotiin yksinkertainen botti käyttäen Amazon Lex palvelua. Ylimmän tason palveluissa on esiopetetut mallit joiden avulla omaa materiaalia voi analysoida. Tällä tasolla liikkeelle pääsee hyvin nopeasti ja tutustuminen AI:hin voi alkaa.

Toinen taso, palasista kootut kokonaisuudet

Esimerkeissä käytettiin Amazon SageMakeria jonka avulla päästään nopeasti analysoitavaan dataan käsiksi esim. S3:n kautta ja voidaan käyttää valmiita algoritmeja (eli algoja). SageMakerissä homma lähtee liikkeelle Jupyter notebook instanssista, joissa on valmiina hyviä esimerkkejä. Mallien opetuksen ja testauksen jälkeen deployment vaiheessa mallille tulee oma API-osoite, jota voi alkaa käyttämään tuotannossa. Eri vaiheisiin voi tietysti määritellä erilaiset instanssit tarpeen mukaan. Tämä taso vaatii selvästi enemmän osaamista kuin ylimmän tason palvelut, mutta mukana on paljon valmista kuten 12 yleisintä ML algoritmia.

Kolmas taso

Alimmalla tasolla AWS:n avut kohdistuvat oman kustomoidun infran luomiseen omia Deep Learning tarpeita varten. Tällä tasolla ollaan tekemisissä suoraan eri instanssityyppien kanssa, jotka voi perustaa valmista AWS Deep Learning AMIn (Amazon Machine Image) käyttäen. Tällä tarve on tyypillisesti erittäin vaativien mallien ja suurien datamäärien analysointi. Tällä tasolla voi esimerkiksi säästää suuria summia rahaa käyttäen oikealla tavalla eri tyyppisiä instansseja ja niiden CPU tai GPU ominaisuuksia, unohtamatta suuren datamäärän siirtämisen tarpeita. Tällä tasolla saattaa tulla hyödylliseksi AWS:n spottihinnoittelu, joilla on mahdollista saada suuriakin kustannussäästöjä.

Kokemus

Hotelli Clarionissa järjestelyt toimivat hyvin. Omalle kohdalle päivän annista jäi erityisesti mieleen:

• Tietynlainen mystiikka aiheen ympäriltä väheni huomattavasti hyvien esimerkkien kautta.
• Erilaisia käyttökelpoisia valmiita malleja löytyy verkosta mitä ihmeellisimpiin tarkoituksiin.
• Jos valmiit mallit ei miellytä, valmista dataa oman mallin opettamiseen löytyy sitäkin paljon ja demoissa niitä hyödynnettiinkin.
• Mutta tärkeintä AI:n ihmeellisessä maailmassa on se, että kaiken A ja O on kuitenkin sen ongelman tai kysymyksen kuvaaminen mihin vastauksia halutaan.

Hoodies

Päivän piristys oli, kun yhden keskustelun päätteeksi kaveri totesi jotakuinkin näin ”Your company is only less than a year old and you already have hoodies. We had to wait for four years to get hoodies…” Satakuntalaisen positiivisessa hengessä voisi kai todeta, että ainakin yksi asia meillä Hubblessa on kohdallaan.