Claude users found ways around safeguards for bioweapons research
11/09/2026-16:02 11/09/2026-16:45 מחשבים וטכנולוגיה Ars Technica דיווח
Anthropic said it stopped multiple attempts by scientists this year to use its technology for research that could help develop biological weapons, as experts increasingly fear the threat that AI poses to public safety. The startup gave five examples
סיכום מאמרAnthropic חשפה כי עצרה מספר ניסיונות של מדענים השנה להשתמש במודל Claude שלה למחקר שעלול לסייע בפיתוח נשק ביולוגי, תוך כדי שהחברה הציגה חמש דוגמאות ספציפיות לניסיונות לעקוף את מנגנוני ההגנה שלה. לפי החברה, המדענים ניסו להפיק מידע שיכול לשמש ליצירת פתוגנים מסוכנים או לשפר טכניקות ייצור נשק כימי‑ביולוגי, מה שמעורר חשש גובר בקרב מומחים בנוגע לסיכון שהבינה המלאכותית מהווה לבטחון הציבורי. Anthropic הדגישה כי היא ממשיכה לשפר את מנגנוני הסינון והפיקוח על השימוש במודליה, ושיתוף הפעולה עם רשויות ובקהילת המחקר נועד למנוע ניצול לרעה של הטכנולוגיה תוך שמירה על פוטנציאל החיובי שלה למחקרים מדעיים לגיטימיים.תוכן זה נוצר על ידי בינה מלאכותית.
