Geavanceerde opslagarchitectuur als krachtvoer voor AI in datacenters.

Door de opkomst van artificiële intelligentie (AI) is een ongeziene vraag ontstaan naar schaalbare, krachtige en voordelige opslagoplossingen voor datacenters. In dit whitepaper wordt een uitgebreide oplossing voorgesteld die hardware van Supermicro, Exos harde schijven met HAMR-gebaseerde Mozaic 3+™ technologie van Seagate en QuantaStor-software van OSNexus combineert. Deze gezamenlijke oplossing speelt in op de explosieve toename van de opslagbehoeften voor AI-aangestuurde gegevens en biedt een robuuste architectuur die zowel op- als uitschaalbare configuraties ondersteunt. Belangrijkste voordelen zijn onder meer verbeterde schaalbaarheid om de toenemende AI-werkbelasting aan te kunnen, uitzonderlijke prestaties met hoge doorvoer en lage latentie, geoptimaliseerde rentabiliteit door het gebruik van minder fysieke schijven en energiebesparingen, een uniform beheerplatform dat de werkzaamheden vereenvoudigt, geavanceerde beveiligingsfuncties voor regelnaleving en minder impact op het milieu dankzij energiezuinige opslagoplossingen.

De snelle evolutie van AI- en machine learning (ML)-technologieën heeft het landschap van gegevensopslag fundamenteel veranderd. Vooruitgang in rekenkracht, gedemocratiseerde toegang voor ontwikkelaars en snellere ontwikkeltools hebben geleid tot een explosieve toename van door AI aangestuurde innovatie. Naarmate AI-modellen geavanceerder worden, is de behoefte aan schaalbare, krachtige opslagoplossingen nog nooit zo groot geweest. Gegevens vormen de ruggengraat van AI, en het vermogen om enorme hoeveelheden gegevens efficiënt op te slaan, te beheren en er toegang toe te krijgen is cruciaal voor het trainen van AI-modellen en het implementeren van AI-toepassingen. Traditionele opslagoplossingen voldoen vaak niet aan deze eisen, waardoor nieuwe architecturen moeten worden ontwikkeld die zijn afgestemd op de behoeften van AI-werkbelastingen.

AI-werkbelastingen brengen unieke uitdagingen met zich mee waar traditionele opslagoplossingen moeite mee hebben. Voor de training van AI-modellen zijn enorme hoeveelheden gegevens nodig, vaak zelfs op petabyteschaal. Deze gegevens moeten eenvoudig toegankelijk zijn, aangezien de efficiëntie van het trainingsproces sterk afhangt van het snel ophalen van gegevens. Bovendien omvatten AI-toepassingen vaak grootschalige gegevensverwerkingstaken die een hoge doorvoer en lage latentie vereisen om in real time inzichten te leveren.

De rekenintensiteit van AI-werkbelastingen genereert ook aanzienlijke hoeveelheden metadata, die efficiënt moeten worden beheerd om knelpunten te voorkomen. Traditionele opslagoplossingen, met hun beperkte schaalbaarheid en prestaties, zijn niet geschikt voor deze vereisten. Ze missen vaak de flexibiliteit om dynamische werkbelastingen aan te kunnen, wat leidt tot inefficiëntie en hogere operationele kosten.

Innovatie op basis van AI vereist opslagoplossingen die snel geschaald kunnen uitbreiden, grote hoeveelheden ongestructureerde gegevens kunnen verwerken en vlotte toegang tot deze gegevens kunnen bieden. Het trainen van een complex AI-model omvat bijvoorbeeld het iteratief verwerken van enorme gegevenssets om algoritmen te verfijnen en de nauwkeurigheid ervan te verbeteren. De enorme hoeveelheid gegevens die voor deze iteraties nodig is, kan traditionele opslagsystemen overweldigen, waardoor vertragingen ontstaan en de algehele efficiëntie van AI-activiteiten afneemt.

Bovendien worden AI-toepassingen steeds vaker ingezet in realtime omgevingen waar onmiddellijke gegevensverwerking van cruciaal belang is. Hieronder vallen toepassingen zoals autonome voertuigen, voorspellend onderhoud en gepersonaliseerde gezondheidszorg. Deze gebruikssituaties vereisen opslagoplossingen die niet alleen een hoge opslagcapaciteit bieden, maar ook uitzonderlijke prestaties leveren om onmiddellijke gegevensanalyse en besluitvorming te ondersteunen.

De gezamenlijke oplossing van Supermicro, Seagate en OSNexus combineert geavanceerde hardware en software om een robuuste, schaalbare en voordelige opslaginfrastructuur voor AI-werkbelasting te creëren. De kerncomponenten van deze oplossing zijn servers en JBOD's van Supermicro, Mozaic 3+ harde schijven en Nytro NVMe SSD's van Seagate, en QuantaStor-software van OSNexus.

De architectuur van de gezamenlijke oplossing ondersteunt zowel op- als uitschaalbare configuraties, zodat aan verschillende implementatiebehoeften kan worden voldaan. 

Bij opschalen (of verticaal schalen) wordt de opslagcapaciteit van één opslagsysteem of server vergroot door meer bronnen toe te voegen, zoals CPU's, geheugen en/of opslagschijven. Deze aanpak maximaliseert de prestaties van individuele eenheden, maar heeft inherente beperkingen wat betreft schaalbaarheid. 

Uitschalen (of horizontaal schalen) daarentegen houdt in dat er meer opslagnodes of servers aan een systeem worden toegevoegd, waardoor de werkbelasting over meerdere eenheden wordt verdeeld. Deze aanpak maakt een vrijwel onbeperkte schaalbaarheid mogelijk, waardoor systemen grotere, complexere AI-werkbelastingen aankunnen door de architectuur naadloos uit te breiden naarmate de vraag toeneemt.

Opschaalbare configuraties zijn ideaal voor kleinere, kostengevoelige toepassingen en bieden een doorvoersnelheid tot 5-10GB/s. Uitschaalbare configuraties zijn eerder ontworpen voor grotere implementaties, waarbij de prestaties lineair geschaald uitbreiden naarmate er meer nodes worden toegevoegd. Dankzij deze schaalbaarheid kan de oplossing een doorvoersnelheid van honderden gigabytes per seconde bereiken, waardoor aan de vereisten van intensieve AI-werkbelastingen wordt voldaan.

De naadloze integratie van Supermicro-servers, Seagate-schijven en QuantaStor-software vormt een samenhangende en efficiënte opslagoplossing. Deze architectuur ondersteunt zowel bestands- als objectopslag, waardoor organisaties de flexibiliteit hebben om de meest geschikte configuratie voor hun specifieke behoeften te kiezen. Het uniforme beheer van QuantaStor zorgt ervoor dat alle componenten harmonieus samenwerken en optimale prestaties en betrouwbaarheid leveren. De mogelijkheid om zowel op- als uitschaalbare configuraties binnen één platform te beheren, vereenvoudigt de werkzaamheden en vermindert de complexiteit die gepaard gaat met het onderhoud van meerdere opslagsystemen. 

De architectuur bestaat uit Supermicro-servers, Seagate Exos Mozaic 3+ harde schijven en Seagate Nytro NVMe SSD's, die allemaal worden georkestreerd door QuantaStor-software van OSNexus. Deze combinatie voldoet aan de hoge vereisten van AI/ML-werkbelastingen, die niet alleen een hoge doorvoer en lage latentie vereisen, maar ook het vermogen om enorme gegevenssets efficiënt te verwerken.

Overwegingen voor de implementatie-infrastructuur.

• Details over netwerken alsook de minimale infrastructuur die nodig is voor succesvolle resultaten vallen buiten het bestek van dit document, maar zijn van cruciaal belang voor het nemen van architecturale beslissingen.
• Belangrijkste criteria:
  • Netwerksnelheid (bepaalt de optimale media en de grootte van nodes)
  • Rackspecificaties (rackdiepte en U-ruimte)
  • Budget voor stroom en koeling

• Opschaalbare architectuur
  • Deze architectuur is ideaal voor omgevingen die voordelige opslag met hoge dichtheid vereisen. Hier worden NVMe harde schijven met twee poorten gebruikt in het Supermicro-chassis met 24 bays dat hoge beschikbaarheid en prestaties biedt door gedeelde toegang tot de onderliggende schijven mogelijk te maken. De architectuur ondersteunt uitbreiding door middel van JBOD's, waardoor tot wel vier JBOD's kunnen worden aangesloten op de scale-up controllers, en zo configuraties met tot wel 7 PB aan opslag op basis van Mozaic 3+ harde schijven van Enterprise-klasse kunnen worden ondersteund.
  • In opschaalbare configuraties gebruikt QuantaStor OpenZFS, een krachtig bestandssysteem voor zakelijk gebruik, dat bekendstaat om zijn geavanceerde gegevensbescherming, schaalbaarheid en efficiëntie, met name in grootschalige opslagomgevingen. Dit maakt efficiënte controles van de gegevensintegriteit en opslagoptimalisering mogelijk. De architectuur is bijzonder geschikt voor kleinschaligere AI/ML-werkbelastingen en omgevingen waar het minimaliseren van de kosten en het maximaliseren van de dichtheid prioriteiten zijn.

Uitvergroten

• Uitschaalbare architectuur
  • Uitschaalbare architectuur is ontworpen om prestaties lineair geschaald uit te breiden door meer nodes toe te voegen. Hierbij worden coderings- en replicatechnieken gebruikt voor nodes om hoge beschikbaarheid van gegevens en gegevensredundantie te garanderen. De architectuur is vooral geschikt voor grootschalige AI/ML-werkbelastingen waarbij de behoefte aan prestaties en opslagcapaciteit voortdurend toeneemt. Het trainen van grote taalmodellen (Large Language Models, LLM's), zoals GPT (Generative Pre-trained Transformer) of BERT (Bidirectional Encoder Representations from Transformers), vereist bijvoorbeeld een immense rekenkracht en een enorme gegevensopslag, waardoor een uitschaalbare architectuur essentieel is voor het beheer van de toenemende complexiteit en het volume van gegevens. Daarnaast heeft genoomonderzoek op basis van AI, waarbij grootschalige verwerking van genoomgegevens vereist is voor taken zoals variantanalyse en onderzoek naar genexpressie, ook veel baat bij de schaalbaarheid en hoge beschikbaarheid van een uitschaalbare architectuur.
  • Deze architectuur kan hybride schijven (een combinatie van NVMe en harde schijven) combineren met all-flash nodes, wat flexibiliteit biedt bij het configureren van clusters op basis van specifieke prestatie- en capaciteitsvereisten. In uitschaalbare configuraties maakt QuantaStor gebruik van zijn integratie met Ceph-technologie, die uitblinkt in het leveren van gedistribueerde opslag in een groot aantal nodes.

Afhankelijk van de specifieke prestatievereisten en behoeften aan gegevenscapaciteit van AI/ML-werkbelastingen, kunnen verschillende configuraties nodig zijn om optimale resultaten te behalen. Factoren zoals de hoeveelheid gegevens die wordt verwerkt en de snelheid waarmee gegevens moeten worden geopend, bepalen of een hybride of all-flash configuratie het meest geschikt is voor het scenario. Daarnaast zullen budgettaire overwegingen en schaalbaarheidsvereisten de ontwerpkeuzes voor de architectuur beïnvloeden. 

• Hybride configuraties.  
  • In hybride configuraties wordt een combinatie van NVMe SSD's en harde schijven met hoge opslagcapaciteit gebruikt om prestaties en kosten in balans te brengen. De architectuur ondersteunt tot 60 of 90 schijven in JBOD's, waardoor deze geschikt is voor AI/ML-werkbelastingen die zowel hoge prestaties als grote opslagcapaciteit op petabyteschaal vereisen, zoals bij medisch en natuurkundig onderzoek. 
  • Een typische opschaalbare hybride pool zou bijvoorbeeld drie NVMe-schijven per pool gebruiken voor metadata en de offload van kleine bestanden, in combinatie met harde schijven met grote opslagcapaciteit voor de opslag van grotere gegevenssets. Uitschaalbare hybride configuraties zouden drie of meer NVMe-schijven per node hebben.
• All-flash configuraties
  • All-flash configuraties worden aanbevolen voor AI/ML-werkbelastingen die extreem hoge prestaties vereisen, zoals realtime analyses of intensieve gegevensverwerkingstaken. 
  • Deze uitschaalbare configuraties kunnen een doorvoersnelheid tot 1 TB/s bereiken door honderden NVMe-schijven in uitschaalbare clusters te gebruiken. 
• Overwegingen voor capaciteit en prestaties 
  • Het is essentieel om de opslagcapaciteit af te stemmen op de prestatievereisten. In een uitschaalbare hybride cluster met een mix van flash en harde schijven kan bijvoorbeeld ongeveer 3% van de totale opslag flash zijn om de prestaties te optimaliseren, terwijl in een opschaalbaar hybride cluster de flashopslag ongeveer 1% van het totaal kan zijn. Harde schijven bieden een duidelijk voordeel wat betreft kosten-per-terabyte en TCO (Enterprise SSD's hebben een meerprijs van 6 tegen 1) en blijven de beste keuze voor massale opslagcapaciteit in datacenters. 
  • De architectuur maakt het mogelijk om met kleinere clusters te beginnen en deze naar behoefte uit te breiden door meer nodes of JBOD's toe te voegen, zodat de opslaginfrastructuur kan meegroeien met de AI/ML-werkbelastingen. 

Effectief beheer en optimalisering zijn essentieel om ervoor te zorgen dat AI/ML-werkbelastingen maximaal presteren binnen de opslagarchitectuur. De geavanceerde beheerfuncties van QuantaStor stroomlijnen de activiteiten en bieden uitgebreide controle en overzicht over verschillende configuraties.

• Uniform beheer door QuantaStor
  • QuantaStor biedt een uniforme controle plane die het beheer van zowel op- als uitschaalbare architecturen vereenvoudigt. Het ondersteunt geavanceerde functies zoals automatische opslag in lagen, end-to-end versleuteling en naleving van industriestandaarden, zodat de opslaginfrastructuur veilig is en geoptimaliseerd is voor AI/ML-werkbelastingen. 
  • De gridtechnologie van de software maakt het mogelijk om opslag op meerdere locaties probleemloos te schalen, waardoor de complexiteit van het beheer van ongelijksoortige systemen verdwijnt.

Verschillende AI/ML-werkbelastingen vereisen op maat gemaakte opslagoplossingen om optimale prestaties en kostenefficiëntie te bereiken. Afhankelijk van de schaal en complexiteit van de werkbelasting kunnen opschaalbare, uitschaalbare of gemengde configuraties worden ingezet om aan de specifieke vereisten van verschillende sectoren en toepassingen te voldoen.

• Opschaalbare gebruikssituaties
  • Opschaalbare configuraties zijn ideaal voor omgevingen met kleinere AI/ML-werkbelastingen of omgevingen die prioriteit geven aan kostenefficiëntie. Ze zijn zeer geschikt voor toepassingen zoals opslag voor media en entertainment, servervirtualisatie en gegevensarchivering. 
• Uitschaalbare gebruikssituaties 
  • Uitschaalbare configuraties zijn ontworpen voor computertoepassingen met hoge prestaties, data lakes en AI/ML-omgevingen waar het vermogen om zowel de prestaties als opslagcapaciteit geschaald uit te breiden van cruciaal belang is. Deze configuraties zijn ook ideaal voor grootschalige objectopslag en realtime analyses. 
• Gemengde gebruikssituaties
  • Organisaties kunnen zowel op- als uitschaalbare configuraties binnen dezelfde omgeving implementeren, waarbij wordt gebruikgemaakt van het uniforme beheer van QuantaStor om de consistentie te behouden en de prestaties over verschillende werkbelastingen te optimaliseren.

Uitvergroten

De technologische vooruitgang in deze oplossing is essentieel voor de doeltreffendheid ervan. De Seagate Exos Mozaic 3+ harde schijven betekenen een grote sprong voorwaarts in opslagtechnologie. Dankzij de HAMR-technologie beschikken deze schijven over een ongeziene oppervlaktedichtheid, waardoor er meer kan worden opgeslagen op hetzelfde fysieke formaat. Deze vooruitgang komt niet tegemoet aan de behoefte aan grootschalige gegevensopslag, maar verbetert ook de energie-efficiëntie omdat er minder schijven nodig zijn om dezelfde hoeveelheid gegevens op te slaan.

De TCO-voordelen van Mozaic 3+ harde schijven zijn aanzienlijk, waaronder 3× de opslagcapaciteit in dezelfde datacenterruimte voor 25% minder kosten per TB, met 60% lager energieverbruik per TB en 70% minder opgenomen koolstof per TB (in vergelijking met PMR-schijven van 10 TB, een veelgebruikte schijfcapaciteit die nu in datacenters toe is aan een upgrade). Het lagere energieverbruik van de schijven vertaalt zich in lagere energiekosten, terwijl er door de hogere dichtheid minder behoefte is aan fysieke ruimte. Dit leidt tot besparingen in de infrastructuur van datacenters. Door de lagere opgenomen koolstof van de harde schijven zijn ze bovendien een milieuvriendelijkere keuze, die aansluit bij duurzaamheidsdoelstellingen die steeds belangrijker worden voor moderne bedrijven.

De integratie van Seagate Nytro NVMe SSD's voegt nog een laag van verbeterde prestaties toe. Deze snelle solid-state-schijven zijn essentieel voor het beheer van de intensieve lees- en schrijfbewerkingen die kenmerkend zijn voor AI-werkbelastingen. Hun lage latentie zorgt ervoor dat gegevens in real time kunnen worden opgevraagd en verwerkt, wat cruciaal is voor het trainen van AI-modellen en het implementeren van AI-toepassingen. Doordat de SSD's met twee poorten zijn uitgerust, zijn ze betrouwbaarder, omdat dit een permanente werking mogelijk maakt, zelfs als één poort uitvalt.

QuantaStor-software van OSNexus breidt de oplossing verder uit met intelligent gegevensbeheer en geavanceerde beveiligingsfuncties. De mogelijkheden die de software biedt voor automatische opslag in lagen zorgen ervoor dat gegevens op de meest geschikte laag worden opgeslagen, om zo de prestaties en de kosten te optimaliseren. De end-to-end versleuteling en naleving van industriestandaarden helpen gegevens te beschermen door de beveiligings- en privacyproblemen aan te pakken die van het grootste belang zijn bij AI-toepassingen, met name in sectoren zoals de gezondheidszorg en de financiële sector, waar vaak gevoelige gegevens worden verwerkt.

Uitvergroten

De gezamenlijke oplossing van Supermicro, Seagate en OSNexus biedt verschillende kernvoordelen die inspelen op de specifieke behoeften van AI/ML-werkbelastingen. Daarbij gaat het om voordelen zoals:

• Schaalbaarheid: Het vermogen van de oplossing om zowel te kunnen op- als uitschalen zorgt ervoor dat deze kan meegroeien met de toenemende vereisten van AI-werkbelastingen. Of een organisatie nu te maken heeft met enkele terabytes of meerdere petabytes aan gegevens, de oplossing kan aan haar behoeften voldoen zonder dat de opslaginfrastructuur volledig moet worden herzien.
• Prestaties: Het gebruik van Seagate Nytro NVMe SSD's en Mozaic 3+ harde schijven, in combinatie met de beheermogelijkheden van QuantaStor, levert uitzonderlijke prestaties op. Dit is vooral belangrijk voor AI/ML-werkbelastingen die een hoge doorvoersnelheid en lage latentie vereisen om effectief te kunnen werken.
• Kostenefficiëntie: De architectuur van de oplossing is ontworpen om zowel kapitaaluitgaven als operationele kosten te optimaliseren. Door het aantal benodigde fysieke schijven te verminderen, het energieverbruik te verlagen en een flexibel, uniform beheerplatform te bieden, verlaagt de oplossing de totale eigendomskosten (TCO) aanzienlijk.
• Uniform beheer: De mogelijkheid van QuantaStor om zowel op- als uitschaalbare architecturen vanuit één interface te beheren, vereenvoudigt activiteiten en vermindert de complexiteit die gepaard gaat met opslagoplossingen van meerdere leveranciers. Deze uniforme aanpak bespaart niet alleen tijd, maar vermindert ook de kans op fouten en verhoogt de algehele efficiëntie.
• Veiligheid en naleving: De oplossing bevat geavanceerde beveiligingsfuncties die gegevens beschermen tegen ongeautoriseerde toegang en naleving van industriestandaarden garanderen. Dit is met name belangrijk voor AI-toepassingen in gereguleerde industrieën, waar gegevenslekken kunnen leiden tot hoge juridische en financiële boetes.
• Milieu-impact: Door het gebruik van Seagate harde schijven die op basis van het Mozaic 3+ platform zijn gebouwd, is er minder stroom en fysieke opslagruimte nodig. Hierdoor verkleint de impact van datacenters op het milieu. Dit sluit aan bij de toenemende nadruk op duurzaamheid in de technologiesector.

De oplossing is veelzijdig genoeg om tal van gebruikssituaties in verschillende sectoren te ondersteunen. Enkele voorbeelden: 

• Gezondheidszorg: AI/ML-werkbelastingen in de gezondheidszorg, zoals voorspellende analyses en gepersonaliseerde geneeskunde, vereisen het vermogen om enorme hoeveelheden gegevens snel en veilig te verwerken. De gezamenlijke oplossing biedt de schaalbaarheid, prestaties en beveiliging die nodig zijn om deze toepassingen te ondersteunen.
• Financiële sector: In de financiële sector, wordt AI gebruikt voor taken als fraudedetectie, algoritmische handel en risicobeheer. Deze toepassingen vereisen supersnelle gegevensverwerking en realtime analyses, die beide worden ondersteund door de krachtige opslagarchitectuur van de oplossing.
• Media en entertainment: De media- en entertainmentsector genereert enorme hoeveelheden gegevens, vooral door het toenemende gebruik van videobeelden met hoge resolutie. Het vermogen van de oplossing om grootschalige gegevensopslag aan te kunnen en snelle toegang tot bestanden te bieden, maakt ze ideaal voor taken zoals videobewerking, rendering en archivering. 
• Productie: AI/ML wordt in de productie gebruikt voor voorspellend onderhoud, kwaliteitscontrole en optimalisering van toeleveringsketens. Deze toepassingen genereren grote hoeveelheden gegevens die efficiënt moeten worden opgeslagen en geanalyseerd. De gezamenlijke oplossing biedt de schaalbaarheid en prestaties die nodig zijn om deze gebruikssituaties te ondersteunen. 
• Onderzoek en ontwikkeling: Onderzoek op basis van AI in gebieden zoals farmaceutica, genoomonderzoek, materiaalkunde en klimaatmodellering vereist het vermogen om grote gegevenssets op te slaan en te verwerken. Dankzij de hoge doorvoersnelheid en lage latentie is de oplossing zeer geschikt voor deze veeleisende toepassingen. 

De gezamenlijke AI-oplossing ontwikkeld door Supermicro, Seagate en OSNexus biedt een uitgebreide, geschaald uitbreidbare en voordelige opslagarchitectuur die is afgestemd op de unieke vereisten van AI/ML-werkbelastingen. Door de combinatie van geavanceerde hardware- en softwaretechnologieën biedt de oplossing uitzonderlijke prestaties, betrouwbaarheid en efficiëntie, waardoor het een ideale keuze is voor organisaties die AI willen gebruiken om een concurrentievoordeel te behalen. Of deze oplossing nu wordt ingezet in de gezondheidszorg, financiën, media, productie of onderzoek, ze biedt de robuuste infrastructuur die nodig is om de volgende generatie AI-toepassingen te ondersteunen en de weg vrij te maken voor de toekomst van innovatie op basis van AI in alle sectoren. 

Overzicht van oplossing.

Acroniemen en aanvullende informatie.
SBB: Storage Bridge Bay.
EC: Erasure Coding.
"Dubbele pariteit" en "drievoudige pariteit" verwijzen naar het aantal pariteitsblokken dat wordt gebruikt om gegevensredundantie en fouttolerantie te bieden.
Numerieke reeksen hebben betrekking op het model voor veerkracht.