Lightnews — Scholar-powered news

André Rieu @superrieu.bsky.social · 12h

... um die volle Auslastung zu erreichen. Es besteht jedoch noch Optimierungspotenzial, denn es wird erwartet, dass allgemeine Open-Source-Bibliotheken in den nächsten Monaten weitere Leistungssteigerungen von 50% bis zu einer Verdoppelung erfahren. 15/15

A Deep Dive into NVIDIA Blackwell with SemiAnalysis' Dylan Patel

YouTube video by Together AI

youtu.be

1

André Rieu @superrieu.bsky.social · 12h

... Austausch bereitzuhalten). Auf Software-Ebene ist die volle Nutzung der Leistung anspruchsvoll, da Blackwell eine dritte Speicherebene innerhalb des Tensor-Kerns eingeführt hat, was ein komplexeres Programmiermodell (Überlappen und Pingponging der Daten) erfordert, ... 14/15

1 1

André Rieu @superrieu.bsky.social · 12h

... einzelnen GPU die gesamte Arbeitslast stört (1 von 72). Betreiber müssen daher neue, hochentwickelte Toolsets entwickeln, um Ausfälle zu managen und die Workloads zu orchestrieren (z. B. 64 GPUs für Hochleistungsworkloads zu nutzen und 8 GPUs als Pool für schnellen ... 13/15

1 1

André Rieu @superrieu.bsky.social · 12h

... Abhängigkeiten neu kompiliert werden mussten. Zudem wurde die NVLink-Domäne massiv von 8 GPUs bei Hopper auf 72 GPUs im GB200 erweitert. Diese größere Domäne ermöglicht immense Leistungssteigerungen, erhöht aber die Komplexität und das Risiko, dass der Ausfall einer ... 12/15

1 1

André Rieu @superrieu.bsky.social · 12h

... steigenden Leistungs- und Kühlungsanforderungen jeder neuen GPU-Generation zu erfüllen. Zusätzlich zur physischen Infrastruktur führt die neue Systemarchitektur zu betrieblichen Herausforderungen: GB200 nutzt ARM-CPUs statt x86, was erforderte, dass Software und ... 11/15

1 1

André Rieu @superrieu.bsky.social · 12h

... 5-Jahres-Investition anstelle einer 30-Jahres-Investition tätigt. Metas Wette ist, dass diese Modularisierung die Markteinführungszeit verkürzt und letztendlich weniger kostet, als komplizierte Anpassungen an Beton- und Stahlgebäuden vorzunehmen, um die schnell ... 10/15

1 1

André Rieu @superrieu.bsky.social · 12h

... Kühlanlagen und GPUs hineingeschoben und verkabelt. Nach etwa fünf Jahren ist Meta darauf eingestellt, alles herauszureißen und neue Ausrüstung einzubauen, da dies günstiger ist als das ständige Nachrüsten. Die Anfangskosten sind geringer, da Meta eine ... 9/15

1 1

André Rieu @superrieu.bsky.social · 12h

... eine einzige Generation von Hardware zu beherbergen. Zu diesem Zweck baut Meta seine Infrastruktur gar in zeltartigen Gebäuden, um die Rechenleistung extrem schnell vermarkten zu können. Anstatt Ausrüstung dauerhaft in Beton zu verankern, werden Stromversorgung, ... 8/15

1 1

André Rieu @superrieu.bsky.social · 12h

Meta hat in diesem Zusammenhang eine neue Strategie für den Bau großer Rechenzentren eingeführt, die auf maximale Flexibilität und eine kürzere Lebensdauer ausgelegt ist, anstatt auf die traditionelle 30-jährige Gebäudenutzung. Die Designs sind nur darauf ausgelegt, ... 7/15

1 1

André Rieu @superrieu.bsky.social · 12h

... Nachrüstungskosten für das gesamte Cluster, wodurch die effektive Lebensdauer der Rechenzentren-Immobilie von 30 auf etwa fünf Jahre reduziert wird. 6/15

1 1

André Rieu @superrieu.bsky.social · 12h

... Stützbalken hinzugefügt werden müssen, um das Gewicht des Wassers auf dem Dach zu tragen. Im Gegensatz zu früher, als Server einfach ausgetauscht wurden, führen die Notwendigkeit von Strom- und Kühlungsänderungen zwischen jeder GPU-Generation zu erheblichen ... 5/15

1 1

André Rieu @superrieu.bsky.social · 12h

... flüssigkeitskühlungsbereit gilt, ist es möglicherweise nur für eine Kühlkapazität von 20 kW pro Rack ausgelegt, was weit unter den Anforderungen des GB200 liegt. Die Installation der notwendigen größeren Wasserrohre kann sogar dazu führen, dass zusätzliche ... 4/15

1 1

André Rieu @superrieu.bsky.social · 12h

... Unterbringung des GB200 die Leistung im Rechenzentrum stark aggregiert werden, was dazu führen kann, dass ganze Racks und Reihen übersprungen werden müssen. Darüber hinaus erfordert GB200 zwingend Flüssigkühlung. Selbst wenn ein Rechenzentrum als ... 3/15

1 1

André Rieu @superrieu.bsky.social · 12h

... und die Kühlung: Ein einzelnes GB200-Rack verbraucht 140 kW, im krassen Gegensatz zu den 10 kW, die ein H100-Server benötigte. Da Racks vor einem Jahrzehnt oft nur für 10 kW und selbst vorausschauende Rechenzentren nur für 20 kW bis 40 kW ausgelegt waren, muss zur ... 2/15

1 1

André Rieu @superrieu.bsky.social · 12h

DeepDive mit Dylan Patel zu den Problemen der Umstellung älterer, noch auf NVIDIAs Hopper-Architektur basierender Rechenzentren auf die neuen Blackwell-Systeme, insbesondere GB200 (Grace Blackwell). Das größte Hindernis ist die drastisch erhöhte Leistungsdichte ... 1/15

1 1

André Rieu @superrieu.bsky.social · 12h

Interessant auch die Studie behavior.stanford.edu zur Einstufung der Wünschenswertigkeit von 2.000 automatisierbaren Tätigkeiten im Alltag. 4/4 youtu.be/g8UaBfj6Sh8?...

André Rieu @superrieu.bsky.social · 12h

Weiter zu menschenorientierten Aspekten verschiedener Computer-Vision-Anwendungen in der Gesundheitsbranche und dann zur Embodied-AI, die bzgl. des maschinellen Sehens die Brücke von der Perzeption zur Aktion schlägt. 3/4

1

André Rieu @superrieu.bsky.social · 12h

... KI-Ethik-Debatten wie noch in 👇 Ausgabe von "Forschung & Lehre" aktualisiert werden, aber eben kein technisches Problem mehr darstellen. KI-Ethik ist wichtig, sollte aber in enger Kooperation mit der KI-Branche erfolgen, um sowas zu vermeiden. 2/4

André Rieu @superrieu.bsky.social · Sep 7

Wenn Geisteswissenschaftler in der aktuellen Ausgabe von „Forschung & Lehre“ über Hämmer sprechen (von KI mal ganz abgesehen):

„By design, the hammer will most often just hit the thumb of Black, Brown and underserved people.“

1

André Rieu @superrieu.bsky.social · 12h

#18 als Fei-Fei Lis Abschlussvorlesung mit einen Überblick über die Entwicklung des Fachgebiets Computer Vision mit Schwerpunkt auf der menschlichen Perspektive, insbesondere ethischer Probleme der Gesichtserkennung (Bias, ...), die sich zwar beharrlich in allen ... 1/4

1

André Rieu @superrieu.bsky.social · 17h

So sehe ich das auch.

André Rieu @superrieu.bsky.social · 18h

Nein, wir beide müssen uns darauf nicht einlassen, aber andere können das und man sollte denen nicht ihre Rationalität absprechen, denn die meisten von denen gilt es zurückzugewinnen.

1

André Rieu @superrieu.bsky.social · 18h

„Das spricht dann gegen eine vernünftige Beurteilung der Lage.“

Es gibt hier keine objektive Vernüftigkeit, zu der Du oder ich Zugang hätten.

1

André Rieu @superrieu.bsky.social · 18h

„Warum soll man die regieren lassen?“

Weil sie ggfls. gewählt sein werden?

1 1

André Rieu @superrieu.bsky.social · 18h

„Deren Wähler:innen sind völlig abgekoppelt von einer realistischen Beurteilung.“

Also das nehme ich völlig anders wahr. Wählern politische Rationalität abzusprechen, war noch eine gute Methode.

2 1

André Rieu @superrieu.bsky.social · 19h

Wenn Haselhoff antreten würde, sähe die Lage aber schon anders aus.

1 1