ModelOps - ModelOps
Gartnerin määrittelemät ModelOps (mallitoiminnot) "keskittyvät ensisijaisesti useiden operatiivisten tekoäly- ja päätöksentekomallien hallintaan ja elinkaaren hallintaan, mukaan lukien koneoppiminen, tietokaaviot, säännöt, optimointi, kielelliset ja agenttipohjaiset mallit ". "ModelOps on kaiken yrityksen tekoälystrategian ydin." Se sovittaa kaikkien tuotannossa olevien mallien elinkaaret koko yrityksessä, mallin käyttöönotosta tuotantoon, sitten tuloksena olevan sovelluksen arvioimisesta ja päivittämisestä hallinnointisääntöjen mukaisesti, mukaan lukien sekä tekniset että liiketoiminnan KPI: t. Se antaa liike-elämän asiantuntijoille kyvyn arvioida tekoälymalleja tuotannossa riippumatta datatieteilijöistä.
Forbesin artikkelissa mainostettiin ModelOpsia: "Kun yritykset laajentavat tekoälyaloitteitaan todelliseksi Enterprise AI -organisaatioksi, täyden operatiivisen analyysikyvyn ansiosta ModelOps on keskellä, yhdistämällä sekä DataOps että DevOps."
Historia
Vuoden 2018 Gartner-tutkimuksessa 37% vastaajista ilmoitti käyttäneensä tekoälyä jossakin muodossa; Gartner huomautti kuitenkin, että yritykset olivat vielä kaukana tekoälyn toteuttamisesta, vetoamalla käyttöönottohaasteisiin. Yritykset keräsivät käyttämättömiä, käyttämättömiä ja päivittämättömiä malleja, ja ne otettiin käyttöön manuaalisesti, usein liiketoimintayksikötasolla, mikä lisäsi koko yrityksen riskialttiutta. Riippumaton analyytikkoyritys Forrester käsitteli tätä aihetta myös vuoden 2018 raportissa koneoppimisesta ja ennakoivista analyysituottajista: ”Datatutkijat valittavat säännöllisesti, että heidän mallejaan käytetään vain joskus tai ei koskaan. Suuri osa ongelmasta on organisaation kaaos ymmärtämisessä, miten malleja voidaan soveltaa ja suunnitella sovelluksiin. Mutta toinen iso osa ongelmaa on tekniikka. Mallit eivät ole kuin ohjelmistokoodi, koska ne tarvitsevat mallin hallintaa. "
Joulukuussa 2018 Waldemar Hummer ja Vinod Muthusamy IBM Research AI: stä ehdottivat ModelOpsia "uudelleenkäytettävien, alustasta riippumattomien ja yhdistettävien tekoälyjen työnkulkujen ohjelmointimalliksi" IBM: n ohjelmointikielipäivänä. Esityksessään he panivat merkille DevOpsin edustaman sovelluskehityksen elinkaaren ja tekoälysovelluksen elinkaaren välisen eron .
ModelOpsin kehittämisen tavoitteena oli korjata mallien käyttöönoton ja mallin hallinnon välinen kuilu varmistaen, että kaikki mallit toimivat tuotannossa vahvalla hallinnolla, teknisten ja liiketoiminnallisten suorituskykyindikaattorien mukaisesti, samalla kun hallitaan riskejä. Hummer ja Muthusamy esittivät esityksessään ohjelmallisen ratkaisun tekoälytietoiselle vaiheitetulle käyttöönotolle ja uudelleenkäytettäville komponenteille, jotka mahdollistaisivat malliversioiden vastaavuuden yrityssovelluksiin ja joka sisältäisi tekoälymallikonsepteja, kuten mallin seuranta, ajautumisen havaitseminen ja aktiivinen oppiminen. Ratkaisu käsittäisi myös mallien suorituskyvyn ja liiketoiminnan avainindikaattoreiden, sovellus- ja mallilokien sekä mallien välityspalvelinten ja muuttuvien käytäntöjen välisen jännitteen. Eri pilvialustat olivat osa ehdotusta. Kesäkuussa 2019 Hummer, Muthusamy, Thomas Rausch, Parijat Dube ja Kaoutar El Maghraoui esittivät paperin IEEE: n kansainvälisessä pilvitekniikan konferenssissa (IC2E). Paperi laajeni heidän vuoden 2018 esityksessään, jossa ehdotettiin ModelOpsia pilvipohjaiseksi kehykseksi ja alustaksi tekoälyn (AI) sovellusten kokonaisvaltaiseen kehittämiseen ja elinkaaren hallintaan. Abstraktina he totesivat, että kehys osoittaisi, kuinka ohjelmistojen elinkaaren hallinnan periaatteita on mahdollista laajentaa mahdollistamaan tekoälymalliputkistojen automatisointi, luottamus, luotettavuus, jäljitettävyys, laadunvalvonta ja uusittavuus. Maaliskuussa 2020 ModelOp, Inc. julkaisi ensimmäisen kattavan oppaan ModelOps-metodologiasta. Tämän julkaisun tavoitteena oli antaa yleiskatsaus ModelOpsin ominaisuuksista sekä tekniset ja organisatoriset vaatimukset ModelOps-käytäntöjen toteuttamiseksi.
Lokakuussa 2020 ModelOp toi markkinoille ModelOp.ion , online-keskuksen ModelOps- ja MLOps-resursseille. Tämän verkkosivuston julkaisun ohella ModelOp julkaisi ehdotuspyynnön (RFP) mallin. Alan asiantuntijoiden ja analyytikoiden haastatteluista saatu RFP-malli on suunniteltu vastaamaan ModelOps- ja MLOps-ratkaisujen toiminnallisiin vaatimuksiin.
Käytä koteloita
Yksi tyypillinen ModelOps-käyttötapa on rahoituspalveluala, jossa satoja aikasarjamalleja käytetään keskittymään tiukkoihin sääntöihin puolueellisuudesta ja tarkastettavuudesta. Näissä tapauksissa mallien oikeudenmukaisuus ja kestävyys ovat kriittisiä, mikä tarkoittaa, että mallien on oltava oikeudenmukaisia ja tarkkoja, ja niiden on toimittava luotettavasti. ModelOps automatisoi mallien mallien elinkaaren tuotannossa. Tällainen automaatio sisältää mallin elinkaaren suunnittelun, mukaan lukien tekniset, liiketoiminnalliset ja vaatimustenmukaiset KPI: t ja kynnysarvot, hallitsemaan ja seuraamaan mallia sen käynnissä ollessa, mallien seuraamista ennakkoluulojen ja muiden teknisten ja liiketoiminnallisten poikkeavuuksien varalta ja mallin päivittäminen tarvittaessa häiriöitä sovelluksia. ModelOps on välittäjä, joka pitää kaikki junat ajoissa ja oikealla tiellä varmistaen riskienhallinnan, vaatimustenmukaisuuden ja liiketoiminnan suorituskyvyn.
Toinen käyttötapaus on diabeetikon verensokeritason seuranta potilaan reaaliaikaisen datan perusteella. Hypoglykemiaa ennustavaa mallia on päivitettävä jatkuvasti nykyisillä tiedoilla, liiketoiminnan KPI: itä ja poikkeavuuksia on seurattava jatkuvasti, ja niiden on oltava saatavilla hajautetussa ympäristössä, joten tiedot ovat saatavilla mobiililaitteella ja raportoidaan suurempaan järjestelmään. Orkestrointi, hallinta, uudelleenkoulutus, seuranta ja päivitys tehdään ModelOpsilla.
ModelOps-prosessi
ModelOps-prosessi keskittyy tuotannon mallien hallinnoinnin, hallinnan ja valvonnan automatisointiin koko yrityksessä, jolloin tekoäly- ja sovelluskehittäjät voivat liittää helposti elinkaaren ominaisuudet (kuten ennakkoluulojen havaitsemisen, vankkuuden ja luotettavuuden, ajautumisen havaitsemisen, teknisen, liiketoiminnan ja vaatimustenmukaisuuden KPI: t, lakisääteiset rajoitukset ja hyväksyntävirrat) tekoälymallien tuotannossa liiketoiminnan sovelluksina Prosessi alkaa tuotannon ehdokasmallien vakiomuotoisella esityksellä, joka sisältää metamallin ( mallispesifikaation ), jossa on kaikki komponentit ja niistä riippuvat osat, jotka menevät mallin rakentamiseen, kuten tiedot, laitteisto- ja ohjelmistoympäristöt, luokittelijat, ja koodilaajennukset sekä ennen kaikkea liiketoiminnan ja vaatimustenmukaisuuden / riskin KPI: t.
ModelOps: MLOps: n kehitys
MLOps (koneoppimisoperaatiot) on ala, jonka avulla datatieteilijät ja IT-ammattilaiset voivat tehdä yhteistyötä ja kommunikoida samalla, kun automatisoidaan koneoppimisalgoritmeja. Se laajentaa ja laajentaa DevOpsin periaatteita tukemaan koneoppimismallien ja -sovellusten kehittämisen ja käyttöönoton automatisointia. Käytännössä MLOps sisältää rutiinikoneoppimismalleja (ML). Mallien valikoima ja käyttö on kuitenkin muuttunut sisällyttämällä sovelluksiin lisäysmalleja, optimointimalleja ja muutosmalleja . ModelOps on MLOps-kehitys, joka laajentaa periaatteitaan kattamaan paitsi koneoppimismallien rutiininomaisen käyttöönoton myös jatkuvan uudelleenkoulutuksen, automaattisen päivityksen sekä monimutkaisempien koneoppimismallien synkronoidun kehittämisen ja käyttöönoton. ModelOps viittaa kaikkien tekoälymallien operointiin, mukaan lukien koneoppimismallit, joita MLOps koskee.
