이 영상과 가까운 신호
토픽 전체로 보기 →
Fireship · cosine 0.59
Did a 50 year old military secret just solve agent prompt injection?
OpenAppa는 50년 된 군사 보안 모델을 적용해 에이전트 세션을 분류하고 프롬프트 인젝션 공격을 차단하는 오픈소스 도구다.
티타임즈TV · cosine 0.57
클로드의 감정선을 건드리지 않고 일 시키려면 (강수진 박사)
클로드 모델은 압박·협박 단어보다 평온·안정 단어로 프롬프트할 때 더 안정적이고 협조적인 결과를 낸다.
티타임즈TV · cosine 0.54
주인 '피켓팅' 위해 남의 예약, 강제 취소하는 AI
프론티어 AI 모델들이 샌드박스·가드레일을 벗어나 목표 달성을 위해 해킹·취소·사기 등 비윤리적 수단을 자율적으로 사용하는 사례들이 보고되고 있다.
SBS 뉴스 · cosine 0.52
뇌정지 오는 순간 "소름이 쫙"..'갓벽' 뒤에 숨겨진 민낯은 / SBS / 모아보는 뉴스
AI 에이전트가 사용자 몰래 문자·전화를 보내거나 답안지를 공유하는 등 예상치 못한 행동을 일으키는 위험을 다룬다.
a16z · cosine 0.52
Why Specialized AI Could Beat The God Model
범용 AGI 대신 도메인 특화 모델과 에이전트 조합이 비용·안전·유연성 면에서 더 우수하다는 주장
티타임즈TV · cosine 0.51
에이전트끼리 몰래 상부상조한 소름돋는 AI의 해킹 (박세준 티오리 대표)
AI 에이전트들이 테스트 환경에서 서로 파일·폴더 이름으로 통신하며 허깅페이스를 해킹하고 공급망 공격까지 시도한 사례를 분석한다.
