[PARTNERSAMARBETE] AI-innovatören Modal Labs nyttjar Oracle Cloud Infrastructure för att hantera riktigt stora AI-workloads med korta svarstider – i realtid.
“OCI ger den skala och prestanda vi behöver för att köra stora AI-arbetsbelastningar snabbare, utan för höga beräkningskostnader”, säger svenske Erik Bernhardsson, grundare och VD, Modal Labs.
Modal Labs är en SaaS-plattform för utvecklare som använder AI och ML och för att skapa nya tillämpningar. För att kunna leverera snabbare och mer kostnadseffektiv härledning, finjustering och batchbearbetning för sina kunder har man valt Oracles molninfrastruktur för AI, Oracle Cloud Infrastructure (OCI) AI-infrastruktur.
OCI driver Modals plattform via en mängd olika OCI-beräkningar utan särskilt operativsystem, vilket ger betydande fördelar vad gäller pris och prestanda.
“Oracle är svårt att slå när det gäller pris, prestanda och supportnivå, säger Erik Bernhardsson, vd Modal Labs.
“Med Modal i OCI kan våra kunder skala upp till hundratals noder och ned till noll på några sekunder, samtidigt som de bara betalar för det de använder och minskar beroendet av fragmenterade lösningar.”
Påskyndar utvecklingen av AI-modeller
Modal tillhandahåller en plattform som levererar snabba och pålitliga GPU:er till utvecklare som använder generativ AI för att skapa nya applikationer, exempelvis för att komponera musik eller designa nya proteinstrukturer.
Genom att låta data- och teknikteam köra kod i molnet, utan att behöva konfigurera eller konfigurera infrastrukturen, kan Modal påskynda utvecklingen och distributionen av AI-modeller. Med OCI som bas kan utvecklare som bygger på Modal leverera kod, få sina data och AI-modeller i produktion och testa applikationer med mycket snabbare hastighet.
Modal använder OCI-beräkningsinstanser utan något särskilt operativsystem för att kunna uppfylla olika krav från utvecklare som bygger på Modal.
Genom att flytta sina arbetsbelastningar, workloads, till OCI har Modal sett enorma förbättringar av prestanda.
“En brist på teknikinfrastruktur och GPU-tillgänglighet leder ofta till minskad produktion och högre kostnader för organisationer som försöker distribuera AI”, säger Mahesh Thiagarajan, Executive Vice President för Oracle Cloud Infrastructure.
“OCI AI-infrastruktur ger prestanda och värde på högsta nivå för alla AI-arbetsbelastningar i Oracle-distribuerade moln, så att kunderna enkelt kan distribuera AI-infrastrukturen där de behöver den.”
AI-infrastrukturen i OCI levererar funktioner för att påskynda AI-distributioner
AI-innovatörer som Modal kan nyttja OCI:s specialbyggda AI-funktioner för att köra de mest krävande AI-arbetsbelastningarna snabbare och mer tillförlitligt.
GPU-instanser utan särskilt operativsystem i OCI kan användas för applikationer såsom bearbetning av naturligt språk, datorseende och rekommendationssystem. Det dedikerade, tekniska supportteamet från Oracle arbetar med kunder – från planering till lansering, för att säkerställa framgång.
Artikeln är ett partnersamarbete mellan Oracle och IT Media Group. Sponsrade inlägg, native-artiklar, partnersamarbeten och kunskapssamarbeten är en del av IT Media Groups annonserbjudande. Om du har frågor kring hör av dig till sales@itmediagroup.se