Die generative KI für Unternehmen tritt in die Ära der Bürgerentwicklung ein

Es gibt Zeiten, in denen wir ein klares Vorher-Nachher-Erlebnis erleben, das eine Neubewertung unserer grundlegendsten Annahmen erfordert. Diesen Monat, OpenAI hat benutzerdefinierte GPTs angekündigt, ein No-Code-Tool, mit dem Benutzer ihre eigenen GPT-Modelle basierend auf ihren eigenen Daten und unter Verwendung ihrer eigenen Plugins erstellen können. Was früher ein strenger Auftrag für ein Team innerhalb einer großen Forschungs- und Entwicklungsgruppe oder eines Chatbot-Startups war, kann mein Großvater jetzt in fünf Minuten erledigen, indem er ein paar Wiki-Links als Wissensdatenbank nutzt.

Noch wichtiger ist, dass diese GPTs dies können Akt im Namen des Benutzers. Die enge Integration von OpenAI mit Zapier bedeutet, dass Ihnen Tausende von Konnektoren zur Verfügung stehen, mit denen die KI mit wenigen Klicks Ihr CRM abfragen, Ihr ERP aktualisieren oder Ihre Server überwachen kann. Wie authentifiziert sich die KI bei all diesen Diensten? Toller Fang, aber dazu später mehr.

Sie denken vielleicht: „Das ist ja erstaunlich, aber wir werden niemals zulassen, dass so etwas in unserem stark regulierten, sicherheitsorientierten Unternehmen passiert.“ Möglicherweise haben Sie sogar blockiert chatgpt auf Netzwerkebene und suchen nun ständig nach weiteren Bots, die zu dieser Deny-Liste hinzugefügt werden können – was ärgerlich ist, aber Sie können damit umgehen.

Geben Sie Microsoft ein. Letzte Woche auf der Ignite-Konferenz Microsoft hat Copilot Studio angekündigt, ein eigener GPT-Ersteller ohne Code. Es verfügt über alles, was das OpenAI-Tool bietet, vom Hochladen von Dateien zur Verwendung als Wissensdatenbank bis hin zu einer Chat-Schnittstelle für die Konfiguration und Click-to-Add-Integrationen, sogenannten Plugins. Mit Copilot Studio können Benutzer ihre Copiloten in Microsoft 365, Azure SaaS und Hunderte anderer Unternehmenssysteme integrieren. Diese Integration erfolgt über Benutzeridentitätswechsel, was bedeutet, dass der Copilot im Namen der Benutzer handelt.

Das Besondere an diesen von Microsoft generierten Benutzeridentitäts-Bots ist, dass Sie sie nicht blockieren können. Sie haben keine Möglichkeit, zwischen einem KI-generierten Vorgang und einem vom Benutzer ausgelösten Vorgang zu unterscheiden, da diese in Protokollen genau gleich aussehen. Copiloten werden als Anwendungen in Ihrer M365-Umgebung gehostet. Vergessen Sie also Blöcke auf Netzwerkebene. Benutzer melden sich mit ihren Unternehmenszugangsdaten bei diesen Copiloten an. Das Fazit ist, dass GPTs in der Verbraucherwelt leben, Copiloten jedoch in der Unternehmenswelt.

Wie konnte das so schnell passieren?

Nun ja, das war nicht der Fall. Microsoft und andere große Anbieter – wie Salesforce, UiPath und ServiceNow – haben Low-Code-/No-Code-Plattformen entwickelt hat die Messlatte für die Entwicklung von Unternehmensanwendungen gesenkt seit Jahren. Diese Unternehmen haben Hunderte von Integrationen, visuellen Buildern, automatisierten Produktionsbereitstellungen usw. entwickelt Anmeldeinformationsfreigabe als Dienst.

Chatbots sind die Killer-App für Low-Code/No-Code-Plattformen. Wer muss programmieren, wenn Sie eine Plattform nutzen können, die Ihnen sofort alles bietet, was Sie zum Erstellen, Teilen, Überwachen, Aktualisieren und Einbetten Ihres Bots innerhalb von Minuten im Unternehmen benötigen, direkt auf den Geschäftsdaten?

Ein entscheidender Punkt hierbei ist, wie einfach es jetzt ist, No-Code-Apps zu erstellen. In den letzten Jahren haben professionelle Entwickler und Geschäftsanwender gleichermaßen Plattformen wie die Power Platform genutzt, um Millionen neuer Geschäftsanwendungen zu erstellen, darunter einige, die sensible Daten verarbeiten und geschäftskritische Prozesse erleichtern. Während einige Unternehmen damit begonnen haben Zentralisieren Sie die GenAI-Apps Das wird nicht ausreichen, da es von den Ingenieursteams erstellt wird. Wir müssen uns auch ansehen, was Geschäftsanwender entwickeln. Tatsächlich legen die schiere Anzahl der Geschäftsanwender in Kombination mit der Einfachheit der Erstellung von Bots nahe, dass wir uns tatsächlich mehr auf das konzentrieren sollten, was Geschäftsanwender entwickeln.

Wo fangen wir überhaupt an?

Glücklicherweise haben immer mehr Organisationen bereits die Entwicklung von Bürgern (Geschäftsbenutzer, die Apps erstellen) in ihr Anwendungssicherheitsprogramm integriert, und einige ihrer Erkenntnisse sind darin enthalten öffentlich geteilt. Industriestandards Es sind Lösungen entstanden, die Sicherheitsrisiken von Low-Code-/No-Code-Apps kategorisieren, erklären und Abhilfemaßnahmen vorschlagen.

Der Verzicht auf Code bedeutet nicht, dass es keine Schwachstellen gibt, insbesondere keine logischen. In der Regel bedeutet dies jedoch Mangel an SDLC, Sichtweite, und Kontrollen. Unabhängig davon, ob unsere Benutzer ein GPT oder einen Copilot erstellen, tun sie dies heute und in großen Mengen. Für Sicherheitsverantwortliche heißt es: Entweder jetzt einsteigen und diese neuen Entwickler unter das Sicherheitsdach holen – oder den Zug verpassen und auf das Beste hoffen.