Green IT in der Praxis: Ein kurzer Bericht zum zweiten Green AI Hackathon

Unser Fokusthema lautete "Don't be too friendly to your chatbot" – denn genau zu diesem Thema werden wir einen Vortrag auf der diesjährigen AccsoCon halten.  

Der Auslöser dafür war eine Erkenntnis von OpenAI-CEO Sam Altman: Höflichkeitsfloskeln wie "please" und "thank you" in Chatbot-Gesprächen können Unternehmen zig Millionen Dollar kosten. Seit dem KI-Boom 2017 entfielen laut einer Analyse des American Action Forum bereits im Jahr 2023 etwa 4,4 % des gesamten US-Stromverbrauchs auf KI-Datenzentren. Die Energie-Nachfrage durch diese Einrichtungen könnte der Studie zufolge bis 2028 auf bis zu 12 % steigen. 

Deshalb werden wir für diese Präsentation den Energieverbrauch von KI-Anwendungen messen und verschiedene LLM-Modelle auf ihren CO2-Ausstoß vergleichen. Mit Green Metrics Tool von Green Coding Berlin verproben wir verschiedene Use Cases an unterschiedliche KI-Modellen während der Energieverbrauch gemessen wird. Schließlich soll die Demonstration den Teilnehmenden einen direkten Einblick in die Umweltauswirkungen von KI-Nutzung geben. 

KI sinnvoll einsetzen? 

Mit der Messung verschiedener LLM-Modelle mit verschiedenen Szenarien möchten wir uns genau dieser Frage annähern. Welchen Einfluss hat die Größe des KI-Modells, bringen spezialisierte Modelle wie das für Programmierung optimierte Modell CodeLama einen Vorteil im Energieverbrauch für Programmieraufgaben? Die Ergebnisse möchten wir nicht nur bei der AccsoCon präsentieren, sondern sie sollen langfristig auch als Entscheidungsgrundlage für eine nachhaltigere KI-Nutzung im Kundenprojekt dienen.  

Mehr als nur Code: Green AI greifbar machen 

Natürlich wollen wir unseren Kolleg:innen die eigene Datenanalyse so einfach wie möglich gestalten. Deshalb haben wir an den Richtlinien für die Datenanalyse gearbeitet, damit alle Accsonaut:innen eine Antwort auf die Frage erhalten: "Wie kann ich meine Anwendung CO2-optimiert entwickeln?" – ein Thema, das immer mehr Unternehmen beschäftigt. 

Zusätzlich entstanden Videoaufnahmen für einen kleinen Community-Vorstellungsclip, der die Arbeit und Ziele der Green IT Community bei Accso präsentieren wird.  

Wir arbeiten nicht nur an theoretischen Konzepten, sondern erarbeiten messbare Ergebnisse und erproben praktische Tools, die uns dabei helfen, bewusstere Entscheidungen zu treffen. 

Die nächsten Wochen werden für uns besonders spannend: Bei der diesjährigen AccsoCon werden wir als Green IT Community unsere Ergebnisse präsentieren und zeigen, wie Nachhaltigkeit und moderne Softwareentwicklung Hand in Hand gehen können. Wir freuen uns schon auf den Austausch mit unseren Kolleg:innen Ende September.  

Was habt ihr bisher für Erfahrungen gemacht mit dem Energieverbrauch unterschiedlicher KI-Modelle? Wir freuen uns auf den Austausch!