OneAI ist ein souveräner, mandantenfähiger Enterprise-KI-Stack – entwickelt für den produktiven Einsatz lokaler Sprachmodelle (LLMs) in Unternehmen. Du entwickelst die Kern-APIs, RAG-Komponenten, Isolationslogik und KI-Integrationen, die für unsere containerisierte Architektur essenziell sind.

• Entwicklung moderner REST- und WebSocket-APIs mit Bun und Yedra
• Integration von pgvector & Aufbau eines mandantenfähigen Datenmodells mit Row-Level Security (RLS)
• Umsetzung und Pflege der Multi-Tenant-Architektur auf Daten- und Anwendungsebene
• Anbindung und Orchestrierung von LLM-Komponenten (z.?B. Ollama, LangChain, LLaMA/Mistral)
• Entwicklung von Backend-Komponenten für RAG, LARA, Embedding-Pipelines
• Sicherheitsimplementierung (RBAC, Tokenisierung, Auditing, API Rate-Limiting)
• Performanceoptimierung, Logging, Monitoring, Tracing (Prometheus, Loki, Tempo)

Unser TechStack

• Backend: Bun, Yedra, TypeScript, Biome, REST, WebSocket
• Daten: PostgreSQL, pgvector, Row-Level Security
• LLM-Stack: Ollama, LangChain, Mistral, LLaMA, DeepSeek
• Container: Docker, Traefik, VLAN/MACVLAN, NVIDIA MIG
• DevOps & Monitoring: GitHub CI, Prometheus, Grafana, Loki, Tempo

• 3+ Jahre Erfahrung in moderner Backend-Entwicklung mit Node.js/Bun/TypeScript
• Fundiertes Wissen in PostgreSQL, SQL, Datenmodellierung, RLS und pgvector
• Erfahrung mit Authentifizierungskonzepten (OAuth2, JWT) und Microservices
• Solide Kenntnisse über Vektor-Datenbanken, LLM-APIs, Prompt Chaining, RAG-Konzepte
• Idealerweise Erfahrung mit GPU-Infrastruktur, Inferenzsystemen oder MIG-Konfiguration
• Clean Code Mindset, testgetriebene Entwicklung, Security Awareness

Pluspunkte

• Erfahrung mit LangChain, Ollama, LLaMA/Mistral/DeepSeek
• Verständnis von Retrieval-Augmented Generation (RAG), Low-Level Embedding APIs
• Kenntnisse über Container-Netzwerke (VLAN, MACVLAN), Kubernetes oder Traefik

• Souveräne Plattform: Du arbeitest an der Architektur, die Unternehmen unabhängig von Cloud-Diensten macht
• Technische Freiheit: Cutting-Edge Tech, keine Altlasten – Fokus auf Produktqualität
• Sinnstiftende Entwicklung: OneAI wird europaweit ausgerollt – Dein Beitrag zählt
• Remote Kultur: Voll remote möglich, moderne Zusammenarbeit, flache Hierarchien

Neugierig geworden? Dann werde Teil unseres Engineering-Teams und gestalte die Zukunft der KI-Infrastruktur in Europa mit.

Tätigkeitsbereich

Karrierestufe

Arbeitszeit

Standorte