Sæt Kraken fri: Brug nemt kunstig intelligens til ethvert industrielt system

Der er en bred interesse i at anvende applikationer med kunstig intelligens (AI) og maskinindlæring (ML) i industrielle miljøer for at øge produktiviteten og effektiviteten og samtidig opnå besparelser i driftsomkostningerne. Som enhver ingeniør eller ingeniørchef vil fortælle dig, er der imidlertid tre hovedproblemer, der skal løses med hensyn til at tilføje "smarts" til en installeret base af "dumme" maskiner, fra motorer til HVAC-systemer.

For det første er der ikke nok mennesker med AI- og ML-ekspertise til at imødekomme efterspørgslen, og hvilke eksperter der er tilgængelige kommer ikke billigt. For det andet er der en mangel på kvalificerede datasæt, som AI- og ML-systemerne skal trænes i, og eventuelle datasæt, der er tilgængelige, mangler beskyttelse. For det tredje har AI- og ML-systemer traditionelt krævet avancerede behandlingsplatforme, som de skal køre på.

Det, der kræves, er en måde at gøre det muligt for eksisterende ingeniører og udviklere uden AI- og ML-erfaring hurtigt at oprette AI- og ML-systemer og implementere dem, med lave omkostninger, på effekive mikrocontroller platforme. En interessant startup’er kaldet Cartesiam.AI adresserer alle disse problemer med sit NanoEdge AI Studio. Lad mig forklare hvordan.

Kvantificering af stigningen i AI og ML

I midten af 2020 forventes der, afhængigt af kilden, at være mellem 20 og 30 milliarder edge-enheder over hele verden,^1,2 hvor udtrykket "edge devices" henviser til tilsluttede enheder og sensorer placeret som en service på internettet, hvor det samles med den virkelige verden. Af disse er kun ca. 0,3 % forsynet med AI- og ML-kapaciteter. Det skønnes endvidere, at der vil være overalt mellem 40 og 75 milliarder sådanne enheder inden 2025,^3,4 på hvilket tidspunkt forventes det, at mindst 25 % kræves for at være udstyret med AI- og ML-kompetencer.

En vigtig faktor med hensyn til industrielle implementeringer er at tage eksisterende "dumme" maskiner og gøre dem "smarte" ved at udvide dem med AI- og ML- kompetencer. Det er vanskeligt at overdrive potentialet her; for eksempel anslås det, at værdien af eksisterende dum (legacy) infrastruktur og maskiner alene i USA er 6,8 billioner $. ⁵

Sådan gør du AI og ML mere effektivt på edge-enheder

Tingenes of Internet (IoT) og Industrial IoT (IIoT) er allerede gennemgribende, og objekter er allerede ved at blive forbundet og den næste udfordring er at gøre disse objekter smarte.

Den traditionelle måde at oprette en AI-/ML-applikation er at definere en neurale netværksarkitektur, herunder antal neurale lag, antal neuroner pr. Lag og måderne, hvorpå de forskellige neuroner og lag er forbundet. Det næste trin er at få adgang til et kvalificeret datasæt (som selv kan have taget store mængder tid og ressourcer at oprette). Datasættet bruges til at træne netværket i skyen (cloud). Dvs. ved at bruge et stort antal high-end-servere med humongøse beregningsmuligheder. Endelig oversættes det uddannede netværk til en form, der er egnet til udrulning i edge-enheder.

I henhold til IBM Quant Crunch-rapporten⁶ datavidenskab og analyse (DSA) er ikke længere buzzwords; snarere er de vigtige forretningsværktøjer. Der er dog stigende bekymring for, at udbuddet af mennesker med DSA-færdigheder hænger farligt bagefter efterspørgslen, idet manglen på datavidenskabsmænd i øjeblikket runder 130.000 i USA alene.

Desværre er mangel på adgang til dygtige datavidenskabsmænd og kvalificerede datasæt hindringer for den hurtige og overkommelige oprettelse af AI-/ML-aktiverede smarte objekter. Ifølge Cisco⁷ svigtfrekvensen for IoT-projekter generelt er omkring 74%, og denne fiaskorate stiger med hensyn til AI/ML-aktiverede projekter.

Ifølge IDC⁸ der er omkring 22 millioner softwareudviklere i verden. Af disse fokuserer cirka 1,2 millioner på embeddede systemer, og af disse er det kun omkring 0,2 %, der har endda minimale AI-/ML-færdigheder.

Nogle AI- og ML-systemer, såsom machine-vision, der udfører objektdetektion og identifikation, kræver brug af specielle, avancerede computerenheder, herunder grafikbehandlingsenheder (GPU'er) og/eller feltprogrammerbare gate-arrays (FPGA’er). Ny udvikling i AI/ML-teknologier betyder imidlertid, at langt de fleste ikke-vision AI-/ML-applikationer kan implementeres på de relativt billige mikrocontrollere, der er fremtrædende i embeddede systemer.

I 2020 ifølge Statista⁹ globale forsendelser af mikrocontrollere forventes at udgøre ca. 28 milliarder enheder (det er ca. 885 hvert sekund), hvilket gør mikrocontrollerbaserede platforme til den mest gennemgribende hardware på markedet. Med deres lave omkostninger og lave strømforbrug er mikrocontrollere den perfekte platform til at bringe intelligens til edge-enheder.

Selv for store virksomhedsorganisationer med adgang til datavidenskabsmænd og datasæt og i det væsentlige ubegrænsede budgetter er det vanskeligt at blive dygtige til AI og ML. For mindre virksomheder kan det være umuligt. Hvis situationen forbliver "som den er", er der ingen måde at 25 % af edge-enheder kan blive udvidet med AI-/ML-kapaciteter inden år 2025. Hvis kun eksisterende udviklere af mikrocontrollerbaserede indbyggede systemer var udstyret til at udvikle AI-/ML-applikationer ...

En enkel, hurtig og overkommelig måde at udvikle AI-/ML-aktiverede smarte objekter på

Den mest allestedsnærværende beregningsplatform til integrerede applikationer i industrielle miljøer er mikrocontrolleren, og ingen mikrocontroller er mere benyttet end Arme Cortex-M-familie, især M0, M0+, M3, M4 og M7.

Figur 1: V2M-MPS2-0318C er en kraftfuld udviklingsplatform til Arm Cortex-M-baserede applikationer med masser af I/O og et LCD-display. (Billedkilde: Arm)

En ting, som virksomhederne har adgang til, er traditionelle embeddede udviklere. Hvad der kræves er en eller anden måde at få disse udviklere til at fungere som AI-/ML-eksperter, uden at skulle uddanne dem. Den ideelle løsning ville være at give traditionelle embeddede udviklere kapacitet til hurtigt og nemt at oprette maskiner med bevisthed, der automatisk kan lære og forstå deres miljø, identificere mønstre og opdage anomalier, forudsige problemer og resultater og gøre alt dette på overkommelig mikrocontrollerbaseret platforme i edge-services på internettet, hvor dataene genereres og indfanges.

Løsningen, som jeg nævnte tidligere, er NanoEdge AI Studio fra Cartesiam.AI. Ved hjælp af dette integrerede udviklingsmiljø (IDE), der kører på Windows 10 eller Linux Ubuntu, vælger den integrerede udvikler først mikrocontroller, der spænder fra en Arm Cortex-M0 til M7. Udvikleren eller designeren specificerer også den maksimale mængde RAM, der skal allokeres til en løsning. Hvis du er lidt rusten, eller er ny på alt dette, er et godt sted at starte med V2M-MPS2-0318C Arm Cortex-M Prototyping System + (figur 1).

V2M-MPS2-0318C er en del af Arm Versatile Express-serien med udviklingskort. Det leveres med en relativt stor FPGA til prototype Cortex-M-baserede design. Til dette formål leveres det med faste krypterede FPGA-implementeringer af alle Cortex-M-processorer. Desuden har det en hel del nyttige perifere enheder, herunder PSRAM, Ethernet, touchscreen, lyd, en VGA LCD, SPI og GPIO.

Dernæst skal udvikleren vælge antallet og typer sensorer, der skal bruges; det smukke ved Cartesiam.AI-fremgangsmåden er, at der ikke er nogen større begrænsninger på de sensorer, der kan bruges. For eksempel kan de omfatte:

• En, to og tre-akse accelerometre og stort set enhver frekvens til vibrationsanalyse
• Magnetiske sensorer
• Temperatursensorer
• Mikrofoner (til lydgenkendelse)
• Hall-effekt sensorer til motorstyring
• Strøm-overvågnings sensorer

Det er vigtigt at bemærke, at udvikleren ikke er nødt til at definere specifikke varenumre, men kun de generelle sensortyper.

Det næste trin er at indlæse kontekstuelle sensordata; det vil sige generiske data, der er knyttet til hver sensor for at give systemet en idé om, hvad det skal tackle.

NanoEdge AI Studio er udstyret med en omfattende pakke med AI-/ML-byggesten, der kan bruges til at skabe løsninger til 90% eller mere af industrielle AI-/ML-opgaver. Når den er blevet informeret om målmikrocontrolleren, antallet og typer sensorer og den generiske type sensordata, den kan forvente at se, genererer den bedste AI-/ML-biblioteksløsning ud af 500 millioner mulige kombinationer.

Hvis udvikleren ønsker det, kan denne løsning eventuelt testes på den samme pc, der kører NanoEdge AI Studio IDE ved hjælp af en inkluderet emulator, hvorefter den bliver integreret i hovedmikrocontrollerprogrammet, kompileret og downloadet til det mikrocontroller-baserede system, som skal tilknyttes en tiltænkt maskine.

Lad os antage som eksempel, at vi har to dumme maskiner, som vi ønsker at gøre smarte. En af disse maskiner kan være en pumpe, mens den anden måske er en generator. Lad os antage, at dette eksempel skyldes, at vi opretter en enkelt løsning ved hjælp af en temperatursensor og et 3-akset accelerometer, og at den samme løsning vil blive implementeret på begge maskiner (figur 2).

Figur 2: Efter at NanoEdge AI Studio IDE er blevet brugt til at oprette og (valgfrit) teste et AI-/ML-bibliotek, bliver dette bibliotek indlejret i hovedprogrammet, samlet og downloadet til det mikrocontrollerbaserede system, der skal tilknyttes den/de tiltænkte maskiner. Efter en indlæringsfase (typisk en uges kørsel 24 timer pr. dag) kan inferensmotoren bruges til at få øje på og rapportere afvigelser og forudsige fremtidige resultater. (Billedkilde: Max Maxfield)

Selvfølgelig vil disse to maskiner have helt forskellige egenskaber. I virkeligheden kan to ellers identiske maskiner have meget forskellige egenskaber afhængigt af deres placering og miljø. For eksempel kan to identiske pumper, der er placeret 20 meter fra hinanden i det samme rum på samme fabrik, udvise forskellige vibrationsprofiler afhængigt af hvor de er monteret (den ene på beton, den anden over trægulv) og længderne (og former og materialer) af rørene, som de er forbundet til.

Nøglen til hele processen er, at AI-/ML-opløsningerne trænes individuelt på kendte gode maskiner, hvor denne træning typisk tager en uges kørsel non-stop, 24 timer om dagen, hvorved systemet tillader at lære af temperatursvingninger og vibrationsmønstre . Yderligere træningssessioner kan naturligvis udføres på senere tidspunkter for at finjustere modellerne for at redegøre for miljømæssige variationer forbundet med forskellige sæsoner (til eksterne applikationer) og andre forventede variabler.

Når løsningen er blevet trænet, kan de begynde at udlede fra alle nye data, der kommer ind, identificere mønstre og opdage uregelmæssigheder, forudsige problemer og resultater og præsentere deres konklusioner til et instrumentpanel til både teknisk og ledelsesanalyse efter behov.

Konklusion

Jeg ser NanoEdge AI Studio som en "game changer". Det er intuitivt og giver mulighed for designere af indbyggede systemer, der bruger laveffektive, billige Cortex-M-mikrocontrollere til lave omkostninger - som er integreret i milliarder af enheder over hele verden - til hurtigt, nemt og billigt at integrere AI/ML i deres industrielle systemer og omdanne dumme maskiner ind i smarte maskiner, hvorved produktiviteten og effektiviteten øges og samtidig opnås forventede besparelser i driftsomkostninger.

Referencer

1: https://www.vxchnge.com/blog/iot-statistics

2: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

3: https://www.helpnetsecurity.com/2019/06/21/connected-iot-devices-forecast/

4: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

5: https://www.kleinerperkins.com/perspectives/the-industrial-awakening-the-internet-of-heavier-things/

6: https://www.ibm.com/downloads/cas/3RL3VXGA

7: https://newsroom.cisco.com/press-release-content?articleId=1847422

8: https://www.idc.com/getdoc.jsp?containerId=US44363318

9: https://www.statista.com/statistics/935382/worldwide-microcontroller-unit-shipments/