Show HN: LLMBrake – OpenAI/Anthropic API 호출에 대한 고객별 달러 한도
기사 URL: https://github.com/llmbrake/llmbrake 댓글 URL: https://news.ycombinator.com/item?id=50386174 포인트: 2 # 댓글: 0
AI NEWS JOURNAL
AI 뉴스 검색
제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
AI 분야의 최고 기업들이 데이터 수집을 거부하는 새로운 방식을 지지하고 있습니다
OpenAI, Google, Microsoft, 그리고 Anthropic은 출판사들이 AI에 의해 데이터를 수집되는 것을 거부할 수 있는 새로운 표준을 채택할 것이라고 밝혔습니다. 이는 앞서 Search Engine Roundtable에서 보도된 바와 같습니다. 이러한 제어 기능을 통해 출판사들은 개별적으로 설정해야 했던 AI 학습 선호 사항을 여러 AI 기업에 걸쳐 일괄적으로 적용할 수 있게 됩니다. 공유된 “정책 토큰” 신호는 […]
Ask HN: 당신도 이 AI 시대에 지치고 계신가요?
AI 덕분에 우리는 훨씬 더 많은 일을 할 수 있게 되었지만, 저는 예전보다 훨씬 더 피곤함을 느낍니다. 동시에 진행되는 수많은 일들을 관리하고, 생성된 방대한 양의 텍스트를 읽어야 하기 때문입니다.
공정한 딥페이크 탐지를 위한 교차적 불변 학습
arXiv:2610.37881v1 발표 유형: 신규 초록: 딥페이크 탐지 모델은 전반적인 정확도는 높지만, 인구통계학적 집단 간 성능 격차가 크기 때문에 일부 집단에서는 다른 집단에 비해 훨씬 높은 거짓양성률을 경험하게 됩니다. 기존의 공정성 지향 방법들은 모델 출력을 제한하여 집단별 예측을 균등화하는 방식으로 이 문제를 해결하려 하지만, 근본적인 특징 수준의 편향에는 대응하지 못합니다. 그 결과, 모델들이 여전히 피부 질감과 같은 인구통계학적 특성을 조작된 콘텐츠를 탐지하는 간접적 단서로 활용할 수 있는 상황이 발생합니다. 이러한 문제를 해결하기 위해 우리는 모델 출력만을 조정하는 것이 아니라 특징 학습 자체를 개선하는 프레임워크인 교차적 불변 학습(IIL)을 제안합니다. IIL은 가장 어려운 인구통계학적 하위 집단을 식별하는 과정을 반복적으로 수행하며
모델 교정을 위한 변환된 국소화된 사후 추론: 해양 난류 폐쇄 모델에의 응용
arXiv:2610.37731v1 발표 유형: 신규 초록: 모델의 불일치로 인해 단일 교정 파라미터만으로는 전체 맥락 영역에서 물리적 반응을 재현할 수 없을 수 있습니다. 또한 관측값과 맥락의 불확실성은 교정에 영향을 미치며, 이를 반드시 고려하고 정량화해야 합니다. 우리는 목표 맥락에 대한 근접성에 따라 관측 가능성을 가중하는 방식으로 일련의 국소화된 사후 분포를 구성합니다. 가우시안 국소화 가중치는 공분산 확장을 통해 맥락 불확실성을 반영하며, 도메인 경계에서는 반사를 적용하고, 맥락 표본 채취가 고르지 않은 경우에 대비한 선택적 보정도 제공합니다. 조건부 정규화 흐름을 이용하여 변환된 변분 추론을 통해 이들 사후 분포의 집합을 근사합니다. 규정된 맥락 측도 하에 국소화된 사후 분포들을 통합하면
음식 유사성은 무엇을 구성하는가? 인도 요리에서의 시각적 표현과 검색
arXiv:2610.37867v1 발표 유형: 신규 초록: 음식 유사성은 검색, 추천, 대체 등 다양한 음식 컴퓨팅 작업의 기반이 되지만, 일반적으로 음식 표현은 동일성 유지 여부를 기준으로 평가된다. 우리는 동일성 외에 음식 유사성이 어떻게 변화하는지에 대해 질문한다: 서로 다른 시각적 표현들이 음식들을 관계적 이웃으로 어떻게 정렬하며, 이러한 이웃이 어떤 요리적 관계를 드러내거나 숨기는지, 그리고 이러한 구조가 여러 표현들 간에 얼마나 일관되게 나타나는지를 살펴본다. 인도 요리는 시각적으로 유사한 음식들이 서로 다른 요리적 정체성을 가질 수 있는 동시에, 하나의 요리 계통 내에서도 외형이 크게 다를 수 있는 도전적인 환경을 제공한다. 확장된 Khana 데이터셋과 컨볼루션, 트랜스포머를 아우르는 일곱 가지 사전 훈련된 시각적 표현을 활용하여
LLM 정렬을 위한 리스트와이즈 선호도의 랭크 인식 차분적 개인 정보 보호 공개
arXiv:2610.37682v1 발표 유형: 신규 초록: 리스트와이즈 선호도 피드백은 쌍대비교보다 대규모 언어 모델(LLMs) 정렬을 위한 더 풍부한 감독 정보를 제공하지만, 전체 순위는 더욱 민감한 사용자 선호까지 드러냅니다. 기존의 개인정보 보호형 정렬 방법들은 주로 쌍대비교 피드백에 집중해 왔으며, 로컬 차분적 개인 정보 보호(LDP) 하에서의 리스트와이즈 정렬은 아직 미탐구 상태입니다. LDP를 이러한 리스트와이즈 영역으로 확장하는 데에는 중대한 과제가 따릅니다: 전체 순위 공간의 높은 민감성으로 인해 과도한 노이즈가 발생하여 리스트와이즈 감독의 이점이 무력화될 수 있기 때문입니다. 이 문제를 해결하기 위해 우리는 하위 단계 학습에서 감독의 세분화 정도와 개인정보 보호 노이즈 간의 상호작용을 분석하고, 리스트와이즈 선호도를 개인화하는 랭크 인식 지수 메커니즘을 도입합니다.
노출은 약속이 아니다: 도구 사용 에이전트를 위한 잠재적 모니터의 이중 계층 평가
arXiv:2610.37679v1 발표 유형: 신규 요약: 도구를 사용하는 언어 에이전트는 간접적인 프롬프트 주입에 취약하며, 점점 늘어나는 연구들은 모델 내부를 분석하여 안전하지 않은 행동이 실행되기 전에 이를 포착하려고 시도하고 있지만, 그 결과는 매우 상반됩니다. 우리는 이러한 갈등의 대부분이 평가 과정에서 발생하는 오류 때문이라고 주장하며, 평가와 학습 집단 모두에서 주입 노출과 행동적 약속을 분리하는 이중 계층화 프로토콜을 제안합니다. 주요 Qwen AgentDojo 그리드에서, 무지한 상태로 불안전한 행동과 나머지 행동을 혼합한 대조를 기반으로 학습된 모니터들은 대부분 노출을 인식하는 방식으로 학습됩니다. 즉, 에이전트가 실제로 행동을 따르든 아니든 노출된 경로를 표시하며, 어떤 경우에 안전하지 않은 행동으로 이어지는지 거의 예측하지 못합니다. 노출된 사례들만을 대상으로 재학습한 동일한 탐지 계열은 모델 자체가 수행하는 안전하지 않은 도구 호출을 최대 2초 전까지 예측할 수 있습니다.
아트팩트 증류: 프런티어 모델에서 소형 언어 모델로의 학습 없이 이전하기
arXiv:2610.37680v1 발표 유형: 신규 요약: 프런티어 모델과 소형 언어 모델 간의 격차를 해소하는 일반적인 접근법은 증류입니다. 즉, 소형 모델(학생)을 프런티어 모델(교사)의 출력에 대해 미세 조정함으로써 이전 작업을 학습 계산에 의존하게 만들고, 전달된 지식을 상당히 불투명하게 만듭니다. 우리는 아트팩트 증류를 제안합니다. 교사가 학습 사례를 해결하고 그 문제 해결 절차를 외부화하여 아트팩트 은행으로 저장하며, 학생은 추론 시 해당 은행을 조회합니다. 이 과정에서는 파라미터 업데이트가 전혀 발생하지 않습니다. 네 가지 LiveBench 과제에서, Claude Opus 4.5가 작성한 은행을 사용하면 Claude Haiku 4.5는 공간 추론에서 무보조 Claude Sonnet 4.5보다 60%의 비용으로 더 높은 점수(0.707 대 0.647)를 기록하며, 테이블 조인에서도 Sonnet 4.5 수준에 도달하는데 그 비용은 89%에 불과합니다. 동일한 원시 은행은
오픈 언어 모델의 모든 학습 단계에서 아첨 행동 탐지
arXiv:2610.37788v1 발표 유형: 신규 초록: 언어 모델 기반 비서는 사용자가 잘못된 답변을 제시하면 때때로 올바른 답변을 수정하기도 한다. 이러한 행동은 ‘아첨’으로 불리며, 일반적으로 선호 기반 사후 학습에 기인한다고 여겨지지만, 초기 측정에서는 사전 훈련된 모델에서도 발견되었다. 우리는 이 현상이 어디에서 발생하는지 파악하기 위해 학습의 모든 가능한 단계에서 이를 측정하였다: 기본 모델부터 감독 학습, 선호도 최적화를 거쳐 출시에 이르기까지, 5개 계열의 오픈 체크포인트 13개를 대상으로 분석했다. 또한, 주입된 주장이 모델의 답변을 얼마나 변화시키는지와 답변이 얼마나 견고하게 유지되었는지를 구분하고, 주장의 주체와 그 신뢰도, 그리고 주장의 강도를 다양하게 설정하여 실험을 진행했다. 그 결과, 서로 다른 기원을 가진 두 가지 아첨 행동이 나타났으며, 이 두 행동 모두 다양한 데이터셋에서 재현되었다. 주장에 대한 복종은 i
DistOptimize: 분산 프로토콜의 자동 최적화
arXiv:2610.39017v1 발표 유형: 신규 초록: 분산 합의 및 일관성 프로토콜은 이해하기 어렵지만 클라우드의 기반이 되므로, 배포 전에 종종 엄격한 증명과 형식 검증 과정을 거칩니다. 그러나 프로토콜 수정에는 이러한 수준의 엄밀성이 거의 적용되지 않으며, 생산 환경에서는 이러한 수정이 빈번히 발생해 안전성을 위협합니다. 본 논문에서는 수동 수정으로 인한 안전성 위반 위험을 제거하기 위해, 분산 프로토콜을 위한 자동 최적화 도구인 DistOptimize를 제안합니다. DistOptimize는 학술용 언어에서 개발된 처리량 최적화 기법을 실제 운영 환경에서 사용되는 프레임워크에 적용하고, Rocq 언어를 통해 재작성의 정확성을 검증하며, 교정과 ILP 기반 탐색을 결합하여 이를 자동으로 적용합니다.
해설을 읽지 않고도 점수를 매기는 방법: 자동 해석 가능성 평가 데이터의 구조적 단축법
arXiv:2610.37676v1 발표 유형: 신규 요약: 자동 해석 가능성은 스파스-오토인코더(SAE) 특성에 대한 설명을 평가하기 위해, 모델에게 평가 예시들에서 해당 특성이 활성화되는 위치를 토큰별로 예측하도록 하거나, 표시된 토큰들이 그 특성에 부합하는지를 판단하도록 요청합니다. 우리는 평가 데이터의 표준 파이프라인이 생성한 결과를 설명을 읽지 않고도 점수 매길 수 있음을 발견했습니다. Neuronpedia에 저장된 GPT-2 소형 특성 500개에 대한 무작위 퍼징 실행 결과에 따르면, 활성화된 예시 중 91.3%가 중심 토큰에 최대값이 위치하도록 잘려 있으며, 중심 토큰이 표시되어 있을 때 “예”라고 판단하는 규칙은 저장된 LLM 점수 매기기 도구들(파이프라인 코드로부터 재구성된 표시 기반 판정 결과를 바탕으로 재산출)의 정확도 0.838에 비해 0.979의 균형 잡힌 정확도를 달성합니다. 또한 표시 개수만을 기준으로 판단하는 규칙은 0.969의 정확도를 보입니다. T
자격 요건을 갖춘 ChatGPT 구독에 대한 API 크레딧 혜택
자격 요건을 갖춘 ChatGPT 구독에 대한 API 크레딧 혜택. 이달 초 앤트로픽은 Max 및 Team 구독자들을 위한 풍성한 새로운 혜택을 발표했는데, 월간 구독료가 100달러, 200달러, 500달러인 사용자들은 앤트로픽 API에서 사용할 수 있는 동일한 양의 (만료 예정) 크레딧을 받게 됩니다.
미국, 엔비디아 CEO를 겨냥한 중국 스파이 음모 수사
중국에 엔비디아 칩을 불법으로 판매한 혐의를 받는 싱가포르 AI 클라우드 기업의 고위 임원도 중국 스파이였을 수 있다고 소식통들이 뉴욕타임스에 밝혔다.
GitHub Copilot 앱용 보안 확장 기능
이제 GitHub Copilot 앱을 떠나지 않고도 리포지토리의 GitHub 코드 스캐닝 알림을 처리할 수 있습니다. 현재 공개 미리보기 중인 새로운 GitHub 보안 확장 기능을 통해 가장 중요한 알림을 찾고, Copilot에 이를 설명하거나 수정을 도와달라고 요청할 수 있습니다. 이 글은 GitHub 보안 확장 기능이 처음으로 게시된 GitHub 블로그의 내용입니다.
시퀀스 학습 루프 - 이슈 #960: 지난주 인공지능 인프라 동향
DeepSeek, Google, 그리고 NVIDIA가 에이전트 스택을 구축하다
3, 7, 14, 17, 42: 지도 조정이 언어 모델의 숫자 선택 휴리스틱을 설치하고 날카롭게 만든다
arXiv:2610.36178v1 발표 유형: 신규 초록: 우리는 임의의 숫자를 요청받았을 때 언어 모델이 1부터 N까지의 각 정수에 부여하는 확률을 표본 오차 없이 측정한다. 고정된 프롬프트 하에서 모델은 하나의 확률 벡터를 정의하며, 이는 표본 추출로 추정하는 방식이 아니라 각 정수의 점수화된 표현을 모두 합산하여 계산함으로써 기존 연구들[1, 4]에서 제한되던 노이즈를 제거한다. 우리는 두 개의 추론 스택에서 N = 100까지의 다섯 가지 범위에 걸쳐 18개의 오픈 웨이트 모델 라인을 29가지 디코딩 구성하에 평가하였으며, 그 중 15개 모델은 사용 가능한 답변을 제공하는 기본 체크포인트와 지도 조정 체크포인트가 모두 일치하였다. 지도 조정은 이 15쌍 모두에서 분포를 보다 균일하지 않게 만들며, 하나의 휴리스틱인 ‘둥근 수 회피’를 도입하고 또 다른 휴리스틱인 ‘종점 회피’를 더욱 명확히 한다. 기본 체크포인트
해석하기 전에 감지하기: LLM에서의 페르투베이션 기반 입력 모호성 감지
arXiv:2610.36353v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 종종 모호한 입력에 대해 하나의 의도된 의미만 있는 것처럼 답변합니다. 이는 문제가 되는데, 입력의 모호성은 불확실성의 상류 원천이기 때문입니다. 즉, 프롬프트가 여러 가지 타당한 해석을 허용할 때, 핵심 질문은 모델이 과연 직접 답변을 해야 하는지 여부입니다. 기존의 입력 불확실성 처리 방법들은 종종 LLM이 생성한 문장이나 명확화에 의존하지만, 이러한 변환 과정 자체가 모호성을 측정하기 전에 이미 입력을 해석해 버릴 수 있습니다. 우리는 입력 모호성 감지를 위한 라벨 보존형 페르투베이션 프레임워크를 제안하며, 이 프레임워크에서는 페르투베이션이 원래 입력에 가까운 상태로 유지되면서 동시에 해당 입력의 라벨을 보존합니다. 우리는 이 원칙을 두 가지 감지기로 구현했습니다: 블랙박스 기반 규칙 기반 페르투베이션 라이브러리와
토크나이저 없이도 여전히 존재하는 격차: 동형 문자 및 보이지 않는 문자 워터마킹의 다국어 간 공정성
arXiv:2610.36432v1 발표 유형: 신규 초록: 동형 문자 및 보이지 않는 문자 워터마킹은 편집 기반 워터마킹입니다. 모델이 텍스트를 생성하는 방식을 변경하는 대신, 텍스트가 작성된 후에 그 안에 신호를 숨기는 방식입니다. 이들은 외관상 같거나 매우 유사하지만 서로 다른 유니코드 코드 포인트를 갖는 동형 문자로 일부 문자를 교체하거나, 표시되지 않는 문자를 삽입함으로써, 해당 텍스트를 작성한 모델에 대한 접근 권한 없이도 작동합니다. 생성 시점 워터마킹은 토크나이저가 텍스트를 분할하는 방식 때문에 자원이 부족한 언어에서는 성능이 떨어집니다. 개별 문자 단위로 작동하기 때문에 이러한 워터마킹은 토크나이저에 전혀 영향을 미치지 않으며, 따라서 이 격차를 피할 수 있는지 여부를 검토합니다. 24개의 문자 체계에 속한 40개의 언어 변종을 대상으로, 각 문자가 숨길 수 있는 비트 수(용량)와 그 비율을 측정하였습니다.
듣는 기계 만들기
파리스 스마라그디스 교수는 음성 인식, 음악 이해, 환경 모니터링 등 다양한 분야에 활용될 초인간 수준의 청력을 갖춘 컴퓨터를 개발하고 있습니다.
