GSI Gemini APU: Revolution der Datenverarbeitung durch Compute-in-Memory

Die Gemini Associative Processing Unit (APU) ist ein proprietärer Beschleuniger, der das Paradigma, das Weltbild der Datenverarbeitung grundlegend ändert. Anstatt Daten sequenziell zwischen einem Prozessor und dem Speicher hin und her zu bewegen (von-Neumann-Architektur), nutzt die Gemini APU das Prinzip des Compute-in-Memory (CIM), auch bekannt als Associative Computing.

Funktion: Die Technologie integriert millionenfache kleine Bit-Processing-Einheiten direkt in das SRAM-Speicher-Array. Dies ermöglicht eine massive parallele Datenverarbeitung und -suche direkt am Speicherort. Daten werden über ihren Inhalt angesprochen und in-place verarbeitet, ohne die I/O-Schnittstelle zwischen Speicher und Rechenkern überqueren zu müssen.

• Eliminierung des I/O-Flaschenhalses (Memory Wall): Der kritische Engpass des Datentransfers zwischen Prozessor und Speicher wird aufgehoben.
   
• Extrem hohe interne Speicherbandbreite: Ermöglicht eine Gesamt-Datenrate von bis zu 26 TB/s in die Rechenkerne.
   
• Massiv-parallele Architektur: Mehr als zwei Millionen einfache Bit-Prozessoren pro Chip.
   
• Überlegenes Performance-per-Watt-Verhältnis im Vergleich zu konventionellen Architekturen.

Herkömmliche Prozessoren (links) haben aufgrund der engen Verbindung zum großen On-Chip-Speicher Probleme mit großen Datensätzen. Gemini verfügt über Millionen von Kernen, die alle gleichzeitig auf den Speicher zugreifen können, wodurch ein deutlich größerer Datenfluss ermöglicht wird.

Im Vergleich zu traditionellen Recheneinheiten wie CPUs und GPUs, die für komplexe Berechnungen auf kleinen Datensätzen optimiert sind, zeigt die Gemini APU ihre Stärke in Workloads, die einfache Operationen auf extrem großen Datensätzen erfordern (Big Data Analytics, Similarity Search).

1. Entfesselte Bandbreite: Die Gemini APU bietet eine signifikant höhere speicherinterne Bandbreite als jede herkömmliche Prozessorarchitektur, was sie ideal für datenintensive Such- und Analyseaufgaben macht.
    
2. Effizienz für Big Data: Während CPUs bei großen Datensätzen im externen Speicher (DRAM) verhungern und GPUs auf Matrixmultiplikationen optimiert sind, ist die APU perfekt für elementare Bit-Operationen auf Petabytes von Daten.
    
3. Reduzierte Latenz: Durch die direkte Verarbeitung im Speicher kann die APU Suchvorgänge (z.B. 1 Milliarde Datensätze) in Millisekunden statt Stunden abschließen.

Die APU-Technologie bietet einen einzigartigen Mehrwert für Entwickler und Systemarchitekten:

Die Gemini APU wurde primär für anspruchsvolle, bandbreitenlimitierte Big-Data- und KI-Workloads entwickelt:

• Vector Search / Similarity Search: Die Kernanwendung. Beschleunigung von K-Nearest Neighbor (KNN) und Ähnlichkeitssuchen in massiven Datenbanken, essenziell für:
  • E-Commerce und Empfehlungssysteme
  • Generative AI / Large Language Models (LLMs): Beschleunigung von Retrieval-Augmented Generation (RAG) und Content-Retrieval.
  • Biomedizin und Pharma: Schnelle Identifikation von Molekular-Fingerabdrücken (Cheminformatics).
     
• Radar- und Bildverarbeitung (Aerospace & Defense):
  • Synthetic Aperture Radar (SAR): Ermöglicht Echtzeit-Verarbeitung von SAR-Bildern für mobile und Edge-Anwendungen.
  • Objekterkennung und Datenfusion in GPS-verweigerten Umgebungen.
     
• High Performance Computing (HPC):
  • Beschleunigung von Hash-Funktionen (z.B. SHA-1/256) und anderen bitweisen Operationen.

mehr über GSI