SecurityOnion OS, der Bruder/Schwester von KaliLinux :)

SecurityOnion OS wird eigentlich kaum erwähnt in Diskussionen zu Pentest, Sicherheitstests usw
Da die Standalone-Version mit 24GB RAM Anforderung ziemlich hoch ist, habe ich die Eval-Version installiert. Die Installation von SecurityOnion ist native (also nicht in einer VM) und ich habe aktuell nur 1 Ethernet-Schnittstelle.

Für diese Konfiguration sollte die
OpenVPN-Lösung mit TAP-Modus und Bridge sinnvoll sein.
Das erlaubt, mit nur einer physischen Ethernet-Schnittstelle sowohl das Management (Browser/SSH) als auch das Monitoring über einen VPN-Tunnel zu betreiben . Dies wurde angeblich explizit für Cloud-Umgebungen mit nur einer Netzwerkkarte entwickelt.

Kennt jemand dieses OS oder hat Erfahrung damit?

Security Onion ist primär für Monitoring-, Detektions- und Forensik-Zwecke konzipiert – also für Blue-Team-Aufgaben wie SOC-Analysen und Incident Response. Im Gegensatz dazu fokussiert sich Kali Linux auf offensive Sicherheitstests und Penetration Testing (Red Team). Beide Systeme verfolgen unterschiedliche Zielsetzungen und sind daher keine direkten Alternativen zueinander, sondern ergänzen sich je nach Einsatzszenario.

Mit SecurityOnion OS wird möglich, dass das was mit KaliLinux … machen kann, sichtbar zu machen und allgemein ein OS mit vorinstallierten Tools für Neztwerksicherheit zu bekommen anstatt die Tools einzeln installieren und einrichten zu müssen. SecurityOnion OS ist echt umfangreich…

Falls jemand damit Erfahrung hat , würde mich sehr über einen Beitrag freuen.
LG

Dokumentation zu v3.2.x (PDF, 402 Seiten, englisch):

https://docs.securityonion.net/en/3/main/securityonion-docs.pdf

Habs leider noch nicht benutzt. Erfahrungswerte u.a. mit:

  • PRTG von Paessler
  • CrowdStrike Falcon
  • Tenable Nessus
  • Veeam

Da wirst du wohl nicht drumherum kommen! SO arbeitet schließlich genauso mit Sensoren, Agenten etc. wie die genannten Systeme oben auch…
:wink:

1 Like

Top das die 400Seiten anleitung beiliegt das macht es dann einfacher die LLM darauf zu tranieren

1 Like

Ich glaube, da liegt ein Missverständnis vor: Security Onion ist kein Pentesting-Tool wie Kali Linux. Während Kali darauf ausgelegt ist, aktiv Schwachstellen zu suchen und Angriffe zu simulieren (Offensive Security), ist Security Onion eine SIEM- und NDR-Lösung (Defensive Security).

Es dient dazu, deinen gesamten Netzwerkverkehr passiv zu überwachen, zu protokollieren und automatisch auf Anomalien zu analysieren. Die hohen Hardwareanforderungen kommen daher, dass es oft den kompletten Traffic speichert und auswertet – genau das, was du manuell mit einzelnen Tools mühsam nachbauen müsstest. Security Onion ergänzt also eher deine Sicherheitsinfrastruktur, statt sie zu ersetzen. Es ist also wie ich weiter oben geschrieben habe ein Blue-Team Tool.

Im Grunde musst du dich selber da einarbeiten, ausser du willst deine ganze Sicherheits- mit Netzwerktopologie oeffentlich machen oder hast du das Handbuch nicht angeschaut?

Das stimmt so nicht ganz. Security Onion (SO) ist weder ein Backup‑Tool wie Veeam, noch ein klassisches Netzwerk‑Monitoring wie PRTG. Es bietet nur sehr eingeschränkte EDR‑Funktionen im Vergleich zu CrowdStrike Falcon und ist auch kein Schwachstellenscanner wie Nessus.

Wenn smokedope SO mit Kali vergleicht oder es als Ersatz für dessen Tools betrachtet, muss ich klar widersprechen: Ein Pentester wird weiterhin benötigt, um sicherzustellen, dass alles korrekt konfiguriert ist und sauber zusammenarbeitet.

Außerdem impliziert deine Aussage, dass SO einfach zu konfigurieren sei. Das ist es nicht. Security Onion ist deutlich komplexer einzurichten als die von dir genannten Tools. Man kann sich das Verhältnis ungefähr wie Icinga gegenüber PRTG vorstellen – nur dass SO noch einmal anspruchsvoller ist. Wer solche umfangreichen Sicherheitsplattformen nicht professionell einrichtet, wird schnell von Fehlermeldungen und Alerts überflutet. Viele davon sind False Positives, die man erst sauber filtern muss.

Das größte Risiko dabei: Eine falsche Konfiguration führt eher dazu, dass man mehr Unsicherheiten im Netzwerk hat als vorher – weil man wichtige Angriffe übersehen könnte (False Negatives) oder durch das Rauschen der False Positives abgelenkt wird.

Hast selbst lokal eine LLM laufen oder auf nem VPS ? :slight_smile: Sollte DeepSeek-Coder oder SecGPT nehmen ? … LG

Aktuell nutze ich hauptsächlich Qwen und DeepSeek 7B. Alles Weitere läuft dann über RAG und gezieltes Fine-Tuning.

1 Like

Bei mir laufen lokal gerade nur SLMs über Ollama. Alles andere mache ich über Hugging Face oder externe APIs, weil die Hardware-Anforderungen sonst echt extrem werden.

Wenn man lokales Finetuning oder komplexes RAG betreiben will, lohnt sich das meiner Meinung nach erst, wenn man richtig investiert (vor allem in massig VRAM). Ähnlich wie bei SecurityOnion (SO), nur dass man dort eher CPU/RAM statt GPU braucht. Man merkt schnell, dass beides zusammen das Budget sprengt und die Stromrechnung in die Höhe treibt. Im Sommer ist es draußen dann echt kühler als im Serverzimmer. Man muss sich halt entscheiden, was einem wichtiger ist, wenn man kein fettes Sparschwein zum Plündern hat.

Unterm Strich ist SO aber immer noch günstiger als jede proprietäre Lösung. Man lernt viel, hat zwar eine steile Lernkurve, aber für das gesparte Geld kann ich jedes Jahr eine üppige Urlaubsreise machen. Es ist halt nicht jeder so wahnsinnig, so etwas daheim zu betreiben.

1 Like

Die Investition stellt den zentralen Kostenfaktor dar. Hochleistungs GPUs bewegen sich häufig im Bereich von 20.000 € und mehr und gehören damit bereits zur Einstiegsklasse professioneller KI- oder Workstation-Infrastruktur.
Auch die Miete entsprechender Systeme ist entsprechend kostenintensiv. Bei Anbietern wie Hetzner liegen die Preise für GPU-Dedicated-Server (z. B. GEX131 mit RTX PRO 6000 Blackwell) je nach Konfiguration bei etwa 900 € bis über 1.500 € pro Monat.
Zusätzlich entstehen einmalige Kosten für Einrichtung und Konfiguration. Diese betragen – abhängig von der gewählten Ausstattung im Konfigurator – beispielsweise rund 3.465,28 € für die Grundkonfiguration sowie etwa 1.068,62 € für optionale Hardware- und Setup-Erweiterungen. Insgesamt können die Startkosten damit schnell über 4.500 € liegen. :rofl:

1 Like

Ich weiß nicht, was sich Hetzner bei diesem Angebot gedacht hat. Für 5.749,00 € bekomme ich bei AIME einen kompletten Bare‑Metal‑GPU‑Server mit vier NVIDIA A100 80GB – für einen ganzen Monat. Da wirkt Hetzners „Grundkonfiguration + Aufpreis für Setup und Hardware“ schon etwas ambitioniert.(https://www.aime.info/en/gpucloud/#product-cloud-enterprise1).

Haystack Search Engine sollte als Framework für LLMs geeignet sein, um persönliche Daten hinzuzufügen (z.B. eine pdf Anleitungen, Handbuch…) und dann die LLM auf Grundlage der hinzugefügen Daten verwenden zu können.
Mit der Cloudversion kann das alles online verwenden, ohne dass selbst über einen VPS einrichten muss. Für eine lokale Installation ist das einfach zu ressourchen intensiv…

  • Anmeldung / Website: deepset.ai
  • Direkt zur Plattform: cloud.deepset.ai/
  • API-Zugang (Europa): api.cloud.deepset.ai/

Gibts eine bessere Alternative zu empfehlen oder sollte selbst einrichten anstatt die Cloudversion zu verwenden? Datenschutz ist mir ziemlich egal… :slight_smile:

Finde ich aber etwas überteuert, wenn ich sehe, dass ich bei Leaseweb eine gute Bare-Metal Büchse mit 2x A100 inkl. Setup für 1063€ bekommen kann…?!?

https://www.leaseweb.com/en/configure/vc/product/entityKey/DEDSER02_NEW_ORDER_BUSINESS_R750-24SFF-4314-2xA100/2601

1 Like

Es kommt darauf an, was genau dein Ziel ist, wie viel Vorwissen du hast und wie tief du einsteigen willst. Für RAG-Anwendungen ist Haystack zwar sehr mächtig, erfordert aber eine steilere Lernkurve und mehr Einarbeitung.

LlamaIndex oder die OpenAI Assistants API sind für den Anfang am einfachsten, auch wenn du trotzdem ein Grundverständnis dafür brauchst, wie KI-Modelle funktionieren. Ein bisschen Python-Erfahrung und Wissen über Shell-Skripte schaden nie. Wenn du mit Ubuntu klarkommst, kannst du dir auch AnythingLLM lokal installieren.

Falls dir das alles zu viel Aufwand ist, bleibt die Cloud-Variante definitiv die bequemste Lösung.

1 Like

AIME ist schlichtweg der Goldstandard unter den deutschen GPU-Anbietern. Die Transparenz ist hier das schlagende Argument: Du weißt exakt, welche Hardware verbaut ist, und hast die volle Flexibilität – von der stündlichen API-Miete bis hin zu Bare-Metal-Servern für Monate oder dem direkten Kauf der Hardware.

Ein echter Gamechanger ist das Networking: Professionelle Interconnect-Verkabelung im Rechenzentrum bieten sie für gerade einmal 19 €/Monat an. Wer Multi-Node-Training plant, weiß, dass allein die Transceiver (3 - 4 stellig) und Switches für solche Bandbreiten schnell fünfstellige Summen verschlingen. Bei AIME kannst du die Hardware in einem Cluster-Verbund wirklich voll ausreizen.

Am Ende ist es eine Abwägung: Leaseweb ist preislich kaum zu schlagen, bleibt aber eine gewisse „Blackbox“. Wenn ein Anbieter signifikant günstiger ist als der Marktdurchschnitt, spart er oft an der Transparenz oder dem spezialisierten Unterbau. Das sieht man schon am Netzwerk-Limit: Bei 10 Gbit/s ist dort Schluss, und Details zur Latenz oder Interface-Art fehlen. Wer jedoch kein deutsches Hoster benötigt oder nur eine einzelne GPU ohne Cluster-Anbindung sucht, findet dort ein aggressives Preis-Leistungs-Verhältnis.

Ich mach das alles über SQLite im Docker. Ich zerlege die PDFs in Chunks und verarbeite sie dann über eine Pipeline, über die ich später darauf zugreife

1 Like

Und jetzt meine Frage, wofür brauche ich es bei einem Hoster der mir am Ende die Daten absaugt? Nene, lieber lokal über die NPU und ein paar Minuten länger gewartet. 80B Modelle kann ich auch über den VRAM zu Hause laufen lassen. RAG und Websuche je nach Modell über OpenWebUI vergeben.

Zum Chatten reicht dein VRAM aus, aber fürs Fine-Tuning bzw. Training braucht man deutlich mehr VRAM — selbst bei einem 7B-Modell.

Achso, ja das stimmt.