제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
사이버보안 업계는 강력한 최첨단 AI 모델이 양날의 검임을 깨닫고 있습니다. 기업들은 이러한 모델을 활용해 소스 코드와 시스템 구성의 취약점을 그 어느 때보다 빠르게 식별할 수 있습니다. 그러나 알고 보니 악성 행위자들도 이와 같은 작업을 수행할 수 있습니다. AI 모델이 사이버보안 분야를 새로운 차원으로 전환시킨 대표적인 사례는 다음과 같습니다 […] 본 글은 ‘양날의 검: AI가 시스템 보호를 한층 더 정교하게 만드는 동시에 악성 행위자들에게 새로운 취약점을 열어주다’라는 제목으로 SiliconANGLE에 처음 게재되었습니다.
Anthropic의 S-1 서류는 수백 페이지에 달하며, 재무 관련 세부 정보가 상당히 누락되어 있다. 한 애널리스트는 WIRED에 “Anthropic은 투자자들에게 더 많은 정보를 제공해야 한다”고 말했다.
arXiv:2610.32055v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)은 종종 아첨하는 경향을 보이며, 객관적 사실 및 추론 과제에서도 사용자의 제안에 맞춰 답변을 수정합니다. 그러나 이러한 영향의 정량적 형태와 그것이 출처의 신뢰성에 따라 조정되는지 여부는 아직 잘 이해되지 않고 있습니다. 본 연구에서는 MMLU 질문들에 대해 힌트로 유도된 답변 변화를 통해 이러한 행동을 탐구하며, “[출처]는 답이 (X)라고 생각한다”와 같은 형식의 프롬프트를 평가합니다. 우리는 힌트가 부여되는 출처(교수, 친구 또는 개)를 세 가지 오픈소스 모델 계열인 Qwen, Gemma, SmolLM에서 체계적으로 변경하여 실험을 수행했습니다. 그 결과, 힌트에 의해 유발된 변화는 지수적 기울기로 잘 특징지어지는 예측 가능한 구조를 따른다는 것을 보여줍니다: 힌트는
