De uitdaging

De kracht van kunstmatige intelligentie is vrijwel onbeperkt en wordt breed ingezet, bijvoorbeeld voor het optimaliseren van maakprocessen, medische diagnostiek en autonome mobiliteit. AI draait nu nog vaak in de cloud. Devices verzamelen data, bijvoorbeeld met sensortechnologie, om die vervolgens naar de cloud te zenden voor verwerking met intelligente algoritmes.

Bij Edge AI draaien deze algoritmes juist lokaal: op het device zelf. Er is zo geen noodzaak voor een continue verbinding met de cloud en het constant heen en weer sturen van data. Dat biedt grote voordelen voor missiekritieke en tijdgevoelige toepassingen: het voorkomt latency/vertragingen en vergroot de betrouwbaarheid, cyberveiligheid en kostenefficiency. De belofte van Edge AI is dus groot. De stap van de cloud naar de edge is echter technologisch uitdagend en voor het maken van juiste keuzes is een complexe afweging van prestaties, kosten, energieconsumptie en integratiegemak nodig. Sioux helpt klanten bij deze transitie.

De oplossing

AI-modellen zijn doorgaans ontwikkeld voor hoogwaardige hightech-systemen met vrijwel onbeperkte recources. Maar hoe zorg je dat algoritmes lokaal werken en maximaal presteren binnen de beperkingen van de echte wereld, bijvoorbeeld wat betreft rekenkracht en stroomconsumptie? Het vraagt allereerst om systeemdenken en het combineren van gespecialiseerde kennis over kunstmatige intelligentie, elektronica en embedded software. Daarnaast vergt het onder andere om naadloos aansluiten op de specifieke informatiebehoefte en technologie van de klant.

Juist hierin ligt de kracht van Sioux. Onze oplossingen op het gebied van Edge AI omvatten het aanpassen van bestaande algoritmes voor lokaal gebruik, het optimaliseren van AI-modellen voor de best mogelijk performance tot en met productontwikkeling en onderhoud. Zo ondersteunt Sioux klanten bij de ontwikkeling en implementatie van robuuste, betaalbare en schaalbare Edge AI die een echt verschil maakt in het succes van hun toepassingen.

Services

Sioux ondersteunt klanten met een systeemaanpak van Edge AI. We verzorgen de elektronica-selectie en de benodigde aanpassingen in de kunstmatige intelligentie, en zorgen daarmee voor de beste uitkomst in de combinatie van performance, kosten en andere requirements.

Edge AI services

Oplossingsmodellering
Heeft een klant nog geen eigen voorstudie gedaan, dan past Sioux de methode toe die het best bij het klantprobleem past, bijvoorbeeld Model Predictive Control, Reinforcement Learning, Optimized Tensor Computing of Bayesiaans inferentie voor low-power devices.
Technologieselectie
Sioux heeft een diepgaande kennis van en uitgebreide ervaring in het gebruik van GPU’s, CPU’s, FPGA’s, TPU’s en volledige platforms. Denk daarbij aan Nvidia Jetson, Coral, Vitis, Utrascale+, ARM, of onze eigen Sioux high-performance reference architecture.
Modelimplementatie
Elke hardware-keuze heeft gevolgen voor de performance van een algoritme. Wij maken de selectie van het juiste platform - bijvoorbeeld TinyML, Tensorflow Light of onze eigen bibliotheken voor Bayesiaanse inferentie – binnen hechte multidisciplinaire teams.
Life Time Support voor Edge AI
Ten behoeve van onderhoud en bijleren op data (MLops) gebruiken we onder andere AWS, Google Cloud, MS Azure, Kubernetes, MLFlow, Apache Airflow, Kafka, Faust en Kubeflow. Ons holistisch proces heeft daarboven nog een extra laag voor deployment naar de specifieke hardware.

Neem hier contact op