תוסף
@zeroleaks/shield
@zeroleaks/shield הוא תוסף. הרחבה שמוסיפה בדיקות אבטחה בזמן ריצה לאפליקציות LLM, כולל זיהוי הזרקת פרומפט ובדיקות דליפות מידע בתשובות המודל
למי זה מתאים
- סייבר ואבטחת מידע
- צוותי אבטחת מידע משתמשים בה כדי לזהות דליפות של קרדנציות, מידע אישי ונתונים רגישים בתשומות ובפלט של מודלים
- מפתח/ת
- מפתחי אפליקציות LLM יכולים לשלב את ההרחבה כדי לבדוק קלט משתמש ותוצאות כלי בזמן ריצה ולמנוע הזרקת פרומפטים
פרטים
- סוג
- תוסף
- מקור
- github.com
- מתחבר אל
- LangChain
- נכנס לקטלוג
נושאים
- ai
- data
שמירה ודיון
טוען תגובות…
כלים קרובים
- llama_index - פלטפורמת עיבוד מסמכים לשימוש עם מודלים של AI
- ragapp - ragapp הוא כלי שמאפשר להטמיע בקלות מערכת RAG מבוססת סוכן בכל ארגון, תוך שימוש ב-LlamaIndex
- LazyLLM - LazyLLM היא ספרייה שמאפשרת לבנות יישומי LLM עם מספר סוכנים בצורה פשוטה.
- ragbook-notebooks - ספריית מחברות שמדגימות איך לבנות מודלים גדולים של שפה לשימוש בתפעול יומיומי עם LlamaIndex
- azure-ai-travel-agents - דוגמה לאפליקציה ארגונית שמרכיבה סוכן AI מרובים באמצעות Langchain.js, Llamaindex.TS ומסגרת סוכנים של מיקרוסופט.
- PlanExe - כלי שמייצר תוכנית מהתיאור שלך תוך דקות, משולב עם LlamaIndex