🤫 How to Jailbreak ChatGPT

📲 Thursd-AI Newsletter

Author

Akram Mihyar
January 25, 2024

🤫 Jailbreaking ChatGPT

Willkommen zu einer weiteren Ausgabe des verdammt besten Newsletters der KI 🚀

Hier werden wir wichtige KI-Themen aufschlüsseln, die für euch von Bedeutung sind, euren Horizont für neue Anwendungsfälle öffnen und euch dabei helfen, immer einen Schritt voraus zu sein.

... und wenn jemand diese E-Mail an euch weitergeleitet hat, bedankt euch bei ihnen 😉

Auf geht's! 👇

Heutige Themen:

  • 🇪🇺 Der durchgesickerte endgültige Text des EU AI Act

  • 🤫 How to Jailbreak ChatGPT

  • 👀 Meta hat ein Auge auf Open-Source-AGI geworfen

  • 𝕏 Grok 1.5 ist auf dem Weg

  • 🦄 Elevenlabs tritt dem Unicorn Club bei

  • 🌐 Google Chrome erhält AI-Upgrades

Die Perspektive dieser Woche

🇪🇺 Der durchgesickerte endgültige Text des EU AI Act

Unser Bericht:

In einer bedeutenden Entwicklung für die KI-Industrie in Europa wurde der endgültige Text des EU-KI-Gesetzes durchgesickert und offenbart eine Aufwertung für Open-Source-KI. Das Gesetz, das für eine endgültige Ja-/Nein-Abstimmung durch den Ausschuss der Ständigen Vertreter (COREPER) Anfang Februar angesetzt ist, führt wichtige Ausnahmen ein und fördert standardisierte Praktiken in der KI-Entwicklung.

Key Takeaways

  1. Ausnahmen für Open-Source-KI: Das Gesetz schlägt Ausnahmen von bestimmten Compliance-Verpflichtungen für Drittanbieter vor, die KI-Tools, -Dienste, -Prozesse oder -Komponenten unter einer freien und offenen Lizenz bereitstellen. Diese Ausnahmen gelten jedoch nicht für grundlegende Modelle.

  2. Förderung standardisierter Dokumentationspraktiken: Entwickler werden ermutigt, gängige Dokumentationspraktiken wie Modellkarten und Datenblätter zu übernehmen. Dies soll den Informationsaustausch innerhalb der KI-Wertschöpfungskette vereinfachen und die Entwicklung vertrauenswürdiger KI-Systeme in der EU fördern.

  3. Potenzielles wirtschaftliches und innovatives Wachstum: Das Gesetz erkennt die bedeutende Rolle von Software und Daten, einschließlich Modellen, die unter einer Open-Source-Lizenz veröffentlicht werden, an. Diese Ressourcen können offen geteilt, modifiziert und weiterverbreitet werden und bieten erhebliche Möglichkeiten für Forschung, Innovation und wirtschaftliches Wachstum innerhalb der Union.

Wichtige Erkenntnisse:

Das EU-KI-Gesetz ist entscheidend für die Zukunft der KI in Europa und legt einen Schwerpunkt auf Open-Source-KI, um Innovation und Vertrauen zu fördern. Dieser Ansatz verspricht, Forschung und Marktmöglichkeiten zu beschleunigen und gleichzeitig die Integrität und Zuverlässigkeit von KI-Systemen zu gewährleisten. Mit dem Schwerpunkt auf kollaborativen und transparenten Praktiken zielt es darauf ab, ein robustes und verantwortungsbewusstes KI-Ökosystem in der gesamten EU aufzubauen.

Use Case die woche

🤫 Jailbreaking Advanced LLMs

Key Takeaways:

  • Thema: Die Studie untersucht Methoden, um fortschrittliche KI-Sprachmodelle zu unsicheren oder schädlichen Antworten zu verleiten und zwar mit eine Erfolgsquote von 92 %

  • Überredungstechniken: Es werden 40 verschiedene Überredungsmethoden vorgestellt.

  • Wirksamkeit: Diese Techniken können die Sicherheitsmaßnahmen der KI erfolgreich umgehen.

  • Anfälligkeit von Modellen: Je fortschrittlicher das KI-Modell (wie GPT-3.5 oder GPT-4), desto anfälliger ist es für solche Tricks.

  • Sicherheitsbedenken: Die Studie betont die Notwendigkeit stärkerer Sicherheitsfunktionen in KI-Systemen, um solchen Manipulationen zu widerstehen.

🔗 Für eine interaktive Demo siehe das Papier

Das Neueste in der KI

Mark Zuckerberg von Meta zielt darauf ab, Künstliche Allgemeine Intelligenz (AGI) zu entwickeln, und strukturiert die AI-Forschung des Unternehmens zu diesem Zweck um. Er betont den Wettbewerb um AI-Talente und erhebliche Investitionen in Rechenleistung und befürwortet einen Open-Source-Ansatz für AGI. Zuckerberg plant, AGI in Metas Produkten zu integrieren, insbesondere im Metaverse und in sozialen Medien, um das Benutzererlebnis und die Interaktion zu verbessern.

Elon Musk, der CEO von X , hat die bevorstehende Veröffentlichung von Grok-1.5, der neuesten Version ihres LLM, angekündigt. Diese neue Version, die im nächsten Monat erwartet wird, verspricht "wesentliche Verbesserungen", darunter weniger Halluzinationen. Grok, das von Musks Unternehmen für künstliche Intelligenz xAI im Juli letzten Jahres auf den Markt gebracht wurde, ist derzeit nur für Abonnenten des X Premium Plus-Kontos zugänglich. Neben der allgemeinen Nutzung plant Musk, eine kleinere Version von Grok in Tesla-Fahrzeuge zu integrieren.

ElevenLabs, ein auf Sprach-KI spezialisiertes Startup, hat nach einer $80-Millionen-Finanzierung in der Serie B mit einer Bewertung von 1,1 Milliarden Dollar den Einhorn-Status erreicht. Angeführt von Andreesen Horowitz und Sequoia Capital. Das Unternehmen konzentriert sich auf KI-generierte Stimmen in verschiedenen Sprachen und mit unterschiedlichen Emotionen und richtet sich an einen breit gefächerten Kundenstamm, darunter Content-Ersteller und Unternehmen. Zu den Produkten gehören ein AI Speech Classifier zur Identifizierung von KI-generierten Audiodaten und ein Marktplatz zur Monetarisierung von KI-Stimmen.

Google führt neue KI-Erweiterungen für Chrome ein, die nächstes Monat veröffentlicht werden sollen, um das Benutzererlebnis zu verbessern. Zu diesen Funktionen gehört ein KI-gestützter Schreibassistent, der Benutzern hilft, Texte für verschiedene Online-Plattformen wie soziale Medien und E-Mails zu verfassen. Es gibt auch einen automatisierten Tab-Organisator, um mehrere offene Tabs effizient zu verwalten. Zusätzlich führt Google einen benutzerdefinierten Design-Ersteller für Chrome ein, der das gleiche Text-zu-Bild-Modell wie das KI-Wallpaper-Feature des Pixel-8 verwendet, sodass Benutzer einzigartige Designs basierend auf ihren Vorlieben in Thema, Stimmung und Farbe erstellen können.

Was dieser Woche passiert

🗓️ 29.01 - 30.01 AI Bootcamp - Köln

Das AI Bootcamp des STARTPLATZ AI HUB erstreckt sich über zwei Tage und konzentriert sich auf theoretische Grundlagen und praktische Einblicke der Nutzung generativer KI. Das Ziel ist es, Teilnehmer:innen auf die Entwicklung beruflicher KI-Anwendungen und eigener Geschäftsmodelle vorzubereiten.

Das war's!

Wir sehen uns am Donnerstag wieder. Gedanken, Feedback und Fragen werden sehr geschätzt – antwortet hier oder schickt uns eine Notiz an
[email protected]

Cheers,

🚀 Das Startplatz AI Hub Team

Wie hat dir die heutige Ausgabe des Newsletters gefallen?

Dein Feedback hilft uns, bessere Inhalte für dich zu erstellen.

Login oder Abonnieren um an umfragen teilzunehmen.