Continuum AI ist jetzt live. Testen Sie die erste Confidential LLM Plattform.
Continuum AI
Continuum schützt Benutzerdaten vor dem KI-Anbieter und verhindert, dass Modellgewichte verloren gehen.
Continuum ist ein Framework für die Bereitstellung von LLMs und anderen KI-Modellen. Es ermöglicht die Erstellung von ChatGPT-ähnlichen Diensten, bei denen sowohl Benutzereingaben als auch Modellgewichte durchgehend geschützt sind. Durch Continuum können weder die Infrastruktur noch der Dienstanbieter auf Benutzereingaben und Modellgewichte im Klartext zugreifen.
Continuum nutzt bekannte Inferenzserver wie NVIDIA Triton, vLLM oder Hugging Face TGI.
Continuum wird in der zweiten Hälfte des Jahres 2024 als Open Source veröffentlicht.
Durch die Bereitstellung von LLMs mit Continuum bleiben Benutzeranfragen und -antworten für den Anbieter des Inferenzdienstes und die Infrastruktur unzugänglich.
Mit Continuum können Sie den Nutzern Ihrer Plattform erstklassige Datenschutzgarantien bieten.
Schützen Sie Modellgewichte bei Deployments in nicht vertrauenswürdigen Umgebungen.
Sie stellen Modellgewichte als verschlüsselte Dateien bereit. Nur beglaubigte Workloads erhalten Zugang zu entschlüsselten Gewichten.
Sie können Continuum AI jetzt mit dieser öffentlichen Vorschau testen, die das Modell Mistral 7B enthält. Bald folgt Llama 3 70B.
Continuum AI stellt sicher, dass niemand auf Ihre Anfragen zugreifen kann. Weder der Modellanbieter, noch der Cloud-Anbieter, noch wir.
___TLS?
Bei der Verschlüsselung des Netzwerkverkehrs mit TLS hat der Dienstanbieter weiterhin Zugriff auf Benutzereingaben und Gewichte auf den VMs. Bösartige oder fehlerhafte Workloads können Benutzereingaben und Modelle klauen, zum Beispiel indem sie diese über das Netzwerk versenden.
___Disk Encryption?
Bei der Verschlüsselung von Festplatten, zum Beispiel mit LUKS, hat der Dienstanbieter Zugriff auf den Schlüssel zur Entschlüsselung der Festplatte. Bösartige oder fehlerhafte Workloads können Benutzereingaben und Modelle klauen, zum Beispiel indem sie diese über das Netzwerk versenden.
___On-Prem?
Beim Betrieb in eigenen Datenzentren sind Benutzereingaben und Gewichte immer durch den Maschinen- und Dienstbetreiber zugänglich. Continuum schließte diese beiden Parteien aus.
Hinterlassen Sie Ihre E-Mail oder senden Sie uns Ihre Fragen.
The form failed to load. Sign up by sending an empty email to contact@edgeless.systems. Loading likely fails because you are using privacy settings or ad blocks.
