Alle Insights

Verfolgung unserer ersten GenAI-Schritte

Bharti Patel Bharti Patel
SVP, Product Engineering, Hitachi Vantara

12. Dezember 2023


Dies ist die zweite Story in der "Unsere GenAI Reise" -Serie.

Manchmal muss man in der Welt der Technik und des Ingenieurwesens einfach eine gute Idee ergreifen. Sie stürzen sich ins Getümmel - wohl wissend, dass die unvermeidlichen Unterbrechungen neue Risiken mit sich bringen werden - aber Sie stürzen sich trotzdem hinein. Sie beschließen, das Flugzeug so zu bauen, wie Sie es fliegen.

Das steht natürlich im Gegensatz zu dem, was wir in der Unternehmenswelt gewohnt sind. Wir untersuchen gerne jeden Winkel, hinterfragen jede Entscheidung und stellen dabei die Funktionalität den Kostenanalysen gegenüber. Es kann sogar sein, dass wir eine innovative Idee monatelang nicht diskutieren oder teilen, bis wir die Entscheidung mit einer Reihe von Untersuchungen untermauern können, einschließlich Informationen über den Zielmarkt und die Wettbewerbsanalyse.

Dies sind einige der Dinge, die vor meinen Augen flackerten, als ich im vergangenen Sommer beim Executive Leadership Meeting unseres Unternehmens eine kurze Präsentation über Innovation hielt. Nachdem ich meinen Vortrag beendet und gefragt hatte, ob unsere Führungskräfte Fragen hätten, stand unser CEO und jetziger Executive Chairman von Hitachi Digital Services, Gajen Kandiah, auf und verkündete dem Team, dass ich die Charta für generative KI (GenAI) unseres Unternehmens leiten würde.

Obwohl alle Teilnehmer des Meetings bereits über GenAI nachgedacht hatten, war die Ankündigung ebenso überraschend wie aufregend. Die Tatsache, dass er an Ort und Stelle so entschlossen und in einem solchen Rahmen beauftragt wurde, war sowohl ein Vertrauensbeweis von Gajen als auch eine Richtungsangabe. Gajen war für unser Unternehmen ein Vordenker in diesem Bereich und sein Engagement und seine Leidenschaft für das Thema und sein Potenzial waren weithin bekannt.

Gajen erklärte mir später, dass er und der Vorstand mich aus mehreren Gründen ausgewählt hatten. Ein Schlüsselelement war zum Beispiel, dass ich noch nicht einmal ein Jahr im Unternehmen war. Sie wollten, dass der Leiter dieser Arbeit sowohl über große Erfahrung verfügt als auch neu genug im Unternehmen ist, um den Umbruch innerhalb der Organisation voranzutreiben und die Normen in Frage zu stellen. Dies, sagte er, würde entscheidend sein.

Während ich lächelte und anerkennend und zustimmend nickte, drehte sich mein Kopf, während ich To-Do-Listen erstellte und auf das Whiteboard in meinem Kopf die Schritte kritzelte, die wir unternehmen mussten.

Entwurf unseres GenAI-Teams

Ich verschwendete keine Zeit. Als ich am nächsten Tag ins Büro zurückkehrte, besprach ich die Perspektive mit unserem Chief Transformation Officer, Santhosh Sreemushta, und begann mit dem Entwurf dessen, was meiner Meinung nach die effektivste Konstellation von fünf funktionsübergreifenden Teams sein würde: Strategie, Produkt und Technik, Dienstleistungen, interne IT/CIO und Marketing.

Um den Ball ins Rollen zu bringen und die Fallstricke traditioneller bürokratischer Verzögerungen zu vermeiden, die mit neuen Geschäftsplänen einhergehen können, habe ich beschlossen, dass die Teammitglieder diese neue Verantwortung auf ihre „Tagesjobs“ übertragen müssen. "(Lass die Ablenkung beginnen, dachte ich.) Also stellte ich eine Liste zusammen, von der ich dachte, dass sie gute Führungskräfte abgeben würde, und schickte jedem von ihnen eine E-Mail mit der Bitte um Unterstützung. Dabei habe ich darauf geachtet, sie alle wissen zu lassen, dass diese Arbeit einen wegweisenden Ansatz und die Art von Menschen erfordert, die sich mit Mehrdeutigkeiten wohlfühlen.

Dies war entscheidend, denn im Rahmen dieser Reise wollte ich Wege finden, GenAI zu einem Teil der DNA unseres Unternehmens zu machen. Wenn ich das tun könnte, würde es ein langfristiges Engagement sicherstellen, das von denen, die nach mir und den Teams kommen, angenommen werden kann. Es ist eine entscheidende Komponente für die Schaffung von Struktur und nachhaltiger Dynamik.

Einberufung des Teams

Ich ließ die Leiter ihre Teams zusammenstellen und mir ihre Namen schicken. Ich war nicht überrascht, als sie mir sagten, dass die Ingenieure, Forscher und Vermarkter alle gerne dabei sein würden. Am Nachmittag war unsere Organisation festgelegt.

Das war Mitte Juni. Rückblickend ist es keine Untertreibung zu sagen, dass wir diese Mission so schnell angegangen sind wie die Branche rund um GenAI, die vom Aufstieg von OpenAIs ChatGPT vor einem Jahr bis zur Einführung der beeindruckenden Chat GPT-Plattform im letzten Monat in die Höhe geschossen ist. Von dieser bedeutsamen Ankündigung der Führung bis zu unserem ersten offiziellen Meeting als GenAI-Strategieteam vergingen insgesamt zwei Wochen. Das ist in jeder Hinsicht agil.

Eine Woche später rief ich die Truppe zusammen. Wir nutzten die Zeit, um eine Blaupause für unsere Arbeitsweise zu erstellen, Rollen und Verantwortlichkeiten zuzuweisen und auch Ziele zu formulieren; noch keine KPIs, aber Ziele. Wir sind noch nicht in der KPI-Phase.

Entwurf unseres Nordsterns

Wir waren uns einig, dass unsere Blaupause mehrere Dinge gleichzeitig tun muss: die Vorgaben festlegen, wie Gajen betont hat, mit den Werten unseres Unternehmens übereinstimmen und Flexibilität für Entwicklung und Wachstum bieten, wenn wir alle mehr lernen.

Um dies möglichst effektiv zu tun, mussten wir vom Standpunkt des Unternehmens aus beginnen und nach innen arbeiten, um allen Interessenträgern eine gleichberechtigte Stimme zu geben. An der Diskussion nahmen Mitglieder des Chief Information Security Office, des CIO-Büros, der Rechtsabteilung und der Produktentwicklung teil und untersuchten jeden Winkel von Hitachi Vantara, der einen GenAI- Berührungspunkt hat oder haben könnte. Von der Nutzung öffentlicher GenAI-Apps wie ChatGPT, Bard und jetzt Gemini über private Apps bis hin zu Co-Pilots in der Softwareentwicklung haben wir uns daran gemacht, ein Dokument zu erstellen, das die genehmigte Nutzung offiziell festlegt.

Als ersten Aktionspunkt haben wir uns darauf geeinigt, ein Grundsatzpapier zu erstellen, das von allen Mitarbeitern verwendet werden kann, wie und wann sie öffentliche und private GenAI-Tools verwenden. Von der Produktentwicklung bis hin zum Marketing haben wir uns vorgenommen, die Parameter für vom Unternehmen genehmigte Praktiken festzulegen. Es wäre der Nordstern für das Unternehmen. Das Papier wäre auch visionär, um die Entwicklung heute und in Zukunft zu unterstützen. Erinnern Sie sich an meine Mission – machen Sie sie zu einem Teil der DNA.

Dieser scheinbar praktische Ansatz erwies sich in Wirklichkeit als kritischer Punkt für uns. Als wir uns mit den Themen für das Dokument beschäftigten, wurde uns schnell klar, dass dies ein Unterfangen für sich sein würde. Von der Ausarbeitung von Regeln und Beschränkungen für die allgemeine Nutzung und den Datenschutz bis hin zur Erstellung von Richtlinien für die Einhaltung von Vorschriften, die Cybersicherheit und sogar für die Schulung von Mitarbeitern - dies würde Zeit in Anspruch nehmen, eine Zeit, die den Rest der Bemühungen verzögern, wenn nicht sogar zum Scheitern bringen könnte.

Aber dies sind beispiellose Zeiten. Das Innovationstempo rund um GenAI ist so hoch, dass es einen erhöhten Sinn für Dringlichkeit erforderte. Unsere Mitarbeiter brauchten die Freiheit, mit dem gleichen Tempo zu forschen, mit dem sich die Technologie weiterentwickelt. Wir mussten weitermachen, also stimmten wir zu, das Grundsatzdokument parallel zur Umsetzung der restlichen Blaupause zu erstellen. Wir würden dieses Flugzeug tatsächlich bauen, während wir abheben.

Mein Whiteboard zum Leben erwecken

Von dort aus haben wir unsere Marktperspektive skizziert und sie in zwei verschiedene Pfade unterteilt: 1) Bestimmung, wie GenAI in bestehende Produkte integriert werden kann, und 2) kreatives Denken darüber, was wir von Grund auf neu aufbauen könnten.

Wir haben buchstäblich eine ganze Liste großartiger, kreativer Ideen an die Tafel geheftet und uns dann daran gemacht, diese Liste zu kürzen. Bei so vielen Ideen auf der Tafel mussten wir uns auf zwei oder drei Ideen beschränken, die von Anfang an die größte Wirkung haben würden. Den Ozean zum Kochen zu bringen war keine Option. Ein weites Netz auszuwerfen, war ein Rezept für Ablenkung und Verzögerung.

Diese Philosophie frühzeitig zu etablieren, hat sich als sehr produktiv erwiesen. Es hat uns als Team ermöglicht, unsere Prioritäten schnell zu kristallisieren.

Daher haben wir uns zusätzlich zu dem Dokument über die Richtlinien für die Entwicklung von zwei ersten Projekten entschieden: GenAI-Agenten, so genannte „Companions“, um die Problemlösung für unsere Enterprise-Support-Teams zu beschleunigen (und sie schließlich direkt in unser Portfolio zu integrieren, um die Systemkonfiguration, das Management, die Fehlerbehebung, etc. zu verbessern); und eine „Out-of-the-Box“-Appliance, die wir zur Feinabstimmung von LLMs und zur Entwicklung von Companions verwenden würden. 

Das, was wir wissen, auf das anwenden, was wir lernen

Wir freuen uns darauf, unsere Geschichten zu teilen. Bei den Tausenden von Entscheidungen, die innerhalb der Mauern von Hitachi im Zusammenhang mit unserer GenAI-Arbeit getroffen werden, spielt eine Menge eine Rolle. Aber wir wissen, dass wir nicht allein sind. Wir sprechen jeden Tag mit Kunden und Partnern und wissen daher, dass Unternehmen dieselben Diskussionen über dieselben Themen und Herausforderungen führen. Und wenn sie es nicht tun, werden sie es tun.

Als es zum Beispiel an der Zeit war, unsere Blaupause in die Praxis umzusetzen, wurde uns klar, dass wir zuerst eine philosophische Debatte führen mussten – sollten wir ein einzelnes großes Sprachmodell für unsere Arbeit übernehmen oder einen kleinen Modellansatz, der mehrere Agenten umfasste, die miteinander zusammenarbeiten könnten?

Wie viele Unternehmen da draußen haben wir die Unterschiede abgewogen, und für uns war unsere Entscheidung, den Ansatz des kleinen Modells anzuwenden, auf mindestens zwei Schlüsselattribute zurückzuführen: 1) kleinere Modelle haben die Fähigkeit, genauere Ergebnisse zu erzielen, und 2) mit einem weitaus geringeren Risiko für Halluzinationen. Auf der anderen Seite wäre die Nutzung eines einzigen großen Sprachmodells einfacher zu verwalten, relativ gesehen, aber auch teurer zu trainieren.

Nach einer gesunden Diskussion einigten wir uns darauf, den kleinen Modellansatz zu übernehmen, um unsere Co-Pilot zu erstellen. Dies war ein großartiges Beispiel dafür, wie wir unser technisches Fachwissen auf das anwenden können, was wir während unserer GenAI-Reise lernen.

Wir werden diese Idee des Lernens in Teil 3 der Serie weiter ausbauen. Während ich aus unserer internen Entwicklungsarbeit heraus schreibe, wird mein Kollege Prem Balasubramanian von Hitachi Digital Services als Nächstes den Stift zu Papier bringen, um uns mitzuteilen, woran er mit einer Reihe von Kunden arbeitet, die gemeinsam neue Modelle entwickeln und neue Probleme in Echtzeit angehen.

GenAI ist eine Reise für uns alle und wir müssen eintauchen. 

Verwandte Themen


Bharti Patel

Bharti Patel

Bharti heads Hitachi Vantara's cutting-edge data infrastructure product offerings. She was previously CTO at Austin-based Alen and spent +20 years at IBM where she led global R&D teams driving innovation across multiple categories, including data and storage management.