Lokaler KI-Server für Hochschulen, bei dem nichts das Haus verlässt
Sprachmodell, Suche und Protokoll laufen auf einem Gerät in Ihrem eigenen Netz. Netztrennfähig, ohne Anfrage an fremde Anbieter und damit ohne die Übermittlung, die sonst geprüft werden müsste.
Wann sich ein eigener Server lohnt
Nicht als Grundsatzhaltung gegen die Cloud, sondern immer dann, wenn eine Vorgabe, ein Datenbestand oder eine Rechnung dafür spricht.
Besonders schützenswerte Daten
Prüfungsakten, Personalvorgänge, Gutachten, Forschungsdaten unter Sperrvermerk. Alles, was das Haus nicht verlassen darf und trotzdem von KI profitieren würde.
Vorgaben, die keine Cloud zulassen
Wenn Datenschutz, Personalrat oder eine Förderauflage eine Verarbeitung außer Haus ausschließen, ist der lokale Betrieb die einzige Antwort, die trägt.
Grundlage für die anderen Module
HiWi+ Chat, Exams und Content laufen auf demselben Server. Die lokale KI ist keine Insellösung, sondern die Betriebsstufe darunter.
Arbeiten ohne Netz nach außen
Der Server ist netztrennfähig. In einer abgeschotteten Umgebung arbeitet er weiter, ohne dass eine einzige Anfrage nach draußen geht.
Kosten planbar halten
Statt Abrechnung je Anfrage gibt es eine feste Größe: das Gerät und der Strom. Bei hoher Nutzung kippt die Rechnung zugunsten des eigenen Servers.
Vorhandene Hardware nutzen
Ist bereits ein geeigneter Server im Rechenzentrum vorhanden, binden wir ihn ein, statt neue Hardware zu verkaufen.
Eigene Modellwahl
Welches Sprachmodell läuft, entscheiden Sie. Offene Modelle lassen sich austauschen, ohne dass die Anwendung darüber neu gebaut wird.
Nachweis gegenüber Dritten
Für Datenschutzbeauftragte und Gremien ist der lokale Betrieb das einfachste Argument: Es gibt keine Übermittlung, die zu prüfen wäre.
Von der Frage zum laufenden Gerät
Vier Schritte, und die Beschaffung bleibt bei Ihnen, damit Vergabe und Inventar sauber bleiben.
Bedarf klären
Wie viele Personen arbeiten gleichzeitig, welche Module sollen laufen, welche Antwortzeit ist akzeptabel. Daraus ergibt sich die Größe des Geräts.
Hardware festlegen
Wir geben eine konkrete Spezifikation heraus. Beschafft wird über Ihre eigenen Wege, damit Vergabe und Inventar bei Ihnen bleiben.
Einrichten und übergeben
Wir konfigurieren das Gerät, richten Modelle, Anmeldung und Module ein und übergeben es mit einer Anleitung an Ihre IT.
Betrieb und Wartung
Aktualisierungen laufen über eine von Ihnen freigegebene Verbindung, die Sie jederzeit abschalten können. Ohne Zugriff auf Ihre Inhalte.
Was Datensouveränität hier konkret bedeutet
Der Begriff wird oft benutzt und selten belegt. Hier sind die vier Punkte, an denen sich das nachprüfen lässt.
Was zur Lieferung gehört
Hardware
Spezifikation nach Ihrem Bedarf, Beschaffung durch die Einrichtung. Der Einstieg liegt bei etwa 12.000 Euro für ein Gerät, das eine Fakultät trägt.
Modelle
Offene Sprachmodelle, ausgewählt nach Sprache, Aufgabe und verfügbarem Speicher. Austauschbar, ohne die Anwendung anzufassen.
Anmeldung und Rollen
Anbindung an Ihr Identitätsmanagement, damit Zugriff und Rollen dort verwaltet werden, wo sie ohnehin gepflegt werden.
Wartung
Aktualisierungen und Sicherheitsaktualisierungen über eine gesicherte, von Ihnen freigegebene Verbindung. Abschaltbar, ohne dass der Betrieb stehen bleibt.
Was ein lokaler Server nicht leistet
Ein eigener Server löst das Datenschutzthema, nicht jedes andere. Die vier Punkte sagen wir vor der Beschaffung.
Hochschule Karlsruhe
HiWi+ ist an der Hochschule Karlsruhe im Einsatz und wurde gemeinsam mit den dortigen Fachbereichen entwickelt, entlang echter Abläufe und nicht am Schreibtisch.
„Uns ging es vor allem darum, administrative Abläufe und Arbeit in der Fakultät zu reduzieren und gleichzeitig den Studierenden einen besseren Service zu bieten, beispielsweise mit dem Fakultäts-Chatbot, dem sie rund um die Uhr Fragen rund um das Studium stellen können. Die HiWi+ Module sind zwar für unsere konkreten Bedürfnisse an der Fakultät entwickelt worden, sind aber sicher auch bestens nutzbar für viele andere Bildungseinrichtungen.“
Was Hochschulen vor der Einführung fragen
Die Hardware beginnt bei etwa 12.000 Euro für ein Gerät, das eine Fakultät trägt, und wird von der Einrichtung selbst beschafft. Dazu kommen Einrichtung und Übergabe sowie die laufende Wartung. Wie viel Gerät nötig ist, ergibt sich aus der Zahl gleichzeitiger Nutzerinnen und Nutzer und den Modulen, die darauf laufen sollen.
Bei hoher und dauerhafter Nutzung ja, weil die Kosten je Anfrage entfallen. Bei geringer Nutzung ist der von uns betriebene Weg wirtschaftlicher. Wir rechnen beides vorher durch und sagen es auch, wenn der eigene Server sich für Sie nicht trägt.
Bei allgemeinen Textaufgaben ja, das ist der ehrliche Stand. Bei der Auskunft aus eigenen Dokumenten fällt der Unterschied kaum ins Gewicht, weil die Antwort ohnehin aus Ihren Quellen stammt und das Modell vor allem formuliert. Wir zeigen den Unterschied an Ihren eigenen Fragen, statt darüber zu diskutieren.
Wenn die Hardware passt, ja. Entscheidend sind Grafikspeicher und Anbindung. Wir prüfen das vor jeder Beschaffung, weil ein vorhandenes Gerät die günstigste Lösung ist.
Wir, über eine gesicherte Verbindung, die Sie freigeben und jederzeit abschalten können. Diese Verbindung dient der Wartung und gibt keinen Zugriff auf Ihre Inhalte. Auf Wunsch übernimmt Ihre IT die Wartung vollständig selbst, dann liefern wir die Aktualisierungen als Paket.
Ja. Für den Betrieb ist keine Verbindung nach außen nötig. Ohne Verbindung entfallen nur die Wartung aus der Ferne und das Nachladen neuer Modelle, der Betrieb selbst läuft weiter.
HiWi+ Chat läuft vollständig lokal. Exams und Content lassen sich ebenfalls lokal betreiben, wobei bei der Erzeugung von Bildern, Ton und Video die lokale Leistungsfähigkeit deutlicher begrenzt ist als beim Text.
Vorher rechnen, dann beschaffen
Wir prüfen Ihren Bedarf, vergleichen den eigenen Server mit dem Betrieb in Deutschland und zeigen die Antwortqualität an Ihren eigenen Fragen. Erst danach steht eine Spezifikation im Raum.