제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
대한민국 과학기술정보통신부와 엔비디아는 코엑스에서 MSIT-엔비디아 AI 스타트업 파트너십 포럼을 개최했습니다. 과학기술정보통신부 류제명 차관은 엔비디아 경영진과 함께 기반 모델, 물리 AI, AI 인프라 및 AI 반도체 분야의 한국 스타트업 20여 곳을 만났습니다. 또한 엔비디아는 한국 스타트업 Point2에 투자한다고 발표했으며, […]
기사 URL: https://github.com/llmbrake/llmbrake 댓글 URL: https://news.ycombinator.com/item?id=50386174 포인트: 2 # 댓글: 0
AI 에이전트를 생산 환경에 도입하려는 기업들은 모델 선택보다 역할 기반 접근 제어가 그 에이전트를 신뢰할 수 있는지 여부를 결정한다는 사실을 점차 깨닫고 있다. 증가하는 추론 비용, 개인정보 보호 우려, 그리고 주권 요구 등도 더 많은 AI 워크로드를 기업 내 데이터 센터로 다시 이전하도록 만들고 있다. 이러한 변화는 수년간 민감한 데이터를 관리해 온 기업들에게 유리하게 작용한다. 해당 게시물 ‘AI 에이전트를 배치하려는 경쟁, 데이터 접근에서 익숙한 장애물 마주’는 SiliconANGLE에 처음 게재되었다.
arXiv:2610.37679v1 발표 유형: 신규 요약: 도구를 사용하는 언어 에이전트는 간접적인 프롬프트 주입에 취약하며, 점점 늘어나는 연구들은 모델 내부를 분석하여 안전하지 않은 행동이 실행되기 전에 이를 포착하려고 시도하고 있지만, 그 결과는 매우 상반됩니다. 우리는 이러한 갈등의 대부분이 평가 과정에서 발생하는 오류 때문이라고 주장하며, 평가와 학습 집단 모두에서 주입 노출과 행동적 약속을 분리하는 이중 계층화 프로토콜을 제안합니다. 주요 Qwen AgentDojo 그리드에서, 무지한 상태로 불안전한 행동과 나머지 행동을 혼합한 대조를 기반으로 학습된 모니터들은 대부분 노출을 인식하는 방식으로 학습됩니다. 즉, 에이전트가 실제로 행동을 따르든 아니든 노출된 경로를 표시하며, 어떤 경우에 안전하지 않은 행동으로 이어지는지 거의 예측하지 못합니다. 노출된 사례들만을 대상으로 재학습한 동일한 탐지 계열은 모델 자체가 수행하는 안전하지 않은 도구 호출을 최대 2초 전까지 예측할 수 있습니다.
arXiv:2610.37680v1 발표 유형: 신규 요약: 프런티어 모델과 소형 언어 모델 간의 격차를 해소하는 일반적인 접근법은 증류입니다. 즉, 소형 모델(학생)을 프런티어 모델(교사)의 출력에 대해 미세 조정함으로써 이전 작업을 학습 계산에 의존하게 만들고, 전달된 지식을 상당히 불투명하게 만듭니다. 우리는 아트팩트 증류를 제안합니다. 교사가 학습 사례를 해결하고 그 문제 해결 절차를 외부화하여 아트팩트 은행으로 저장하며, 학생은 추론 시 해당 은행을 조회합니다. 이 과정에서는 파라미터 업데이트가 전혀 발생하지 않습니다. 네 가지 LiveBench 과제에서, Claude Opus 4.5가 작성한 은행을 사용하면 Claude Haiku 4.5는 공간 추론에서 무보조 Claude Sonnet 4.5보다 60%의 비용으로 더 높은 점수(0.707 대 0.647)를 기록하며, 테이블 조인에서도 Sonnet 4.5 수준에 도달하는데 그 비용은 89%에 불과합니다. 동일한 원시 은행은
arXiv:2610.37676v1 발표 유형: 신규 요약: 자동 해석 가능성은 스파스-오토인코더(SAE) 특성에 대한 설명을 평가하기 위해, 모델에게 평가 예시들에서 해당 특성이 활성화되는 위치를 토큰별로 예측하도록 하거나, 표시된 토큰들이 그 특성에 부합하는지를 판단하도록 요청합니다. 우리는 평가 데이터의 표준 파이프라인이 생성한 결과를 설명을 읽지 않고도 점수 매길 수 있음을 발견했습니다. Neuronpedia에 저장된 GPT-2 소형 특성 500개에 대한 무작위 퍼징 실행 결과에 따르면, 활성화된 예시 중 91.3%가 중심 토큰에 최대값이 위치하도록 잘려 있으며, 중심 토큰이 표시되어 있을 때 “예”라고 판단하는 규칙은 저장된 LLM 점수 매기기 도구들(파이프라인 코드로부터 재구성된 표시 기반 판정 결과를 바탕으로 재산출)의 정확도 0.838에 비해 0.979의 균형 잡힌 정확도를 달성합니다. 또한 표시 개수만을 기준으로 판단하는 규칙은 0.969의 정확도를 보입니다. T
소비자를 위한 인공지능 비서를 개발하는 와비 주식회사는 오늘 시드 투자 라운드에서 5,500만 달러를 조달했다고 발표했습니다. IVP가 이 시드 라운드를 주도했으며, 아마존 알렉사 펀드, 안드레센 호로위츠, 포어러너 등이 참여했습니다. 또한 세일즈포스 주식회사의 CEO 마크 베니오프와 쇼피파이 주식회사의 CEO 토비 뤼트케를 포함한 엔젤 투자자 그룹도 함께했습니다. 이 기사의 원문은 “와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치”라는 제목으로 실리콘 앵글에 처음 게재되었습니다.
AI가 일상적인 재무 업무를 자동화함에 따라, 과거 초급 회계 직무를 규정하던 반복적 작업들은 점차 사라지고 있으며, 자문 서비스가 기업의 가치 창출 방식의 중심으로 부각되고 있다. 이러한 변화는 대학들이 교과서 속 모습과는 매우 다른 직무에 맞춰 졸업생들을 준비시키기 위해 분주히 움직이도록 만들었다. 교실과 실제 업무 간의 격차를 해소하는 것이 이제 인튜잇의 최우선 과제가 되고 있다. 이 글은 ‘AI가 신입 사원들을 고객 업무로 더 많이 내몰면서, 인튜잇은 회계 교육을 새롭게 재편하고 있다’라는 제목으로 처음 실렸으며, 원문은 SiliconANGLE에서 게재되었다.
arXiv:2502.02727v4 발표 유형: replace-cross 초록: 클라이언트 드리프트 보상 방법은 연합 학습(FL)에서 데이터 이질성의 영향을 완화합니다. 드리프트 교정은 확률적 경사 하강법(SGD) 기반 연합 학습에서는 잘 연구되어 왔지만, 적응형 클라이언트 최적화 알고리즘과의 상호작용에 대해서는 아직 충분히 이해되지 않았습니다. Adam과 같은 적응형 최적화 알고리즘은 과거 기울기의 이동평균을 기반으로 각 업데이트를 구성하므로, 최종 업데이트 방향만을 교정하면 이러한 평균과 그 안에 포함된 드리프트는 그대로 유지됩니다. 우리는 이러한 이동평균에 들어가기 전에 각 기울기를 먼저 교정하는 연합 적응형 기울기 교정({\tt FA-GC})을 제안하고, 이를 최종 방향에 교정을 추가하는 연합 적응형 단순 추적({\tt FA-NT})과 비교합니다. 우리는 실험을 통해, 이상적인
파리스 스마라그디스 교수는 음성 인식, 음악 이해, 환경 모니터링 등 다양한 분야에 활용될 초인간 수준의 청력을 갖춘 컴퓨터를 개발하고 있습니다.
팀이 신뢰 문제를 해결할 수 있다면, AI 에이전트는 왜 의미 계층을 더욱 견고하게 만들 수 있을까요?
LangChain이 Slack에서 브랜드에 맞는 동영상, 그래픽 및 프레젠테이션을 제작하는 오픈소스 디자인 에이전트인 Content Studio와 이를 구동하는 하네스를 어떻게 구축했는지.
오늘날 전 세계에는 치매를 앓고 있는 사람이 5,700만 명에 달합니다. 이들을 돕기 위해 노력하는 연구자들에게 있어 걸림돌은 노력 부족이 아니라, 과도한 데이터와 이를 종합할 전문가의 부족, 그리고 질병의 진행 속도를 따라가지 못하는 발견의 속도입니다. 생물의학 연구 및 인공지능 분야 협력단은 […]
로힛 파텔은 AI 평가와 강화학습 분야에서 8년간 근무한 뒤 메타를 떠난다고 테크크런치가 단독으로 확인했다. 그의 스타트업 엔닥(Ndoc)은 마이크로소프트 오피스 스위트에 도전하는 것을 목표로 한다.
기업용 음성 인공지능 기업인 리갈 보이스 주식회사는 오늘 자사 플랫폼에 목표 지향형 에이전트를 추가하여, 이를 활용하는 기업들이 전화 통화가 달성해야 할 목표를 명확히 정의할 수 있도록 하고, 그 목표 달성을 위한 작업을 분담하는 두 가지 AI 모델을 제공합니다. 새로운 에이전트는 리갈이 “다음과 같은 전화 상담에서 흔히 나타난다”고 밝힌 문제 해결을 목표로 합니다. 이 글은 ‘리갈, 목표 지향형 에이전트 공개… 모든 전화 통화에 배우와 감독 모델을 도입’이라는 제목으로 실리콘 앵글에 처음 게재되었습니다.
일본의 GMO 인터넷은 클라우드 서비스 침해 사고 이후 의심되는 해커들이 게시한 것으로 추정되는 고객 데이터를 검증하고 있습니다.
Edge Sound Research Inc.는 오늘, 유용한 음향을 분리하고 이를 다른 센서 데이터와 결합해 물리적 AI 시스템이 실시간으로 상황을 이해할 수 있도록 지원하는 오디오 인프라를 구축하기 위해 200만 달러의 신규 자금을 조달했다고 발표했습니다. 이번 투자 라운드는 Stormbreaker Ventures가 주도했으며, 이로써 회사의 총 누적 투자액은 900만 달러에 달합니다. […] 해당 기사의 원문은 SiliconANGLE에 처음 게재되었습니다.
모든 제조업체에는 고유한 산업 지능이 있습니다. 일부는 문서화되어 있으며, 일부는 숙련된 작업자의 경험과 지식에 담겨 있습니다. 예를 들어, 교체 작업 후 라인을 재가동하려는 숙련된 운영자를 생각해 보십시오. 기계 설정도 중요하지만, 특정 소재가 어떻게 반응하는지, 이전 교대 시간에 어떤 일이 있었는지, 그리고 겉보기에는 사소해 보이는…
AI 에이전트를 확장하려면, 이를 규제된 직무에 종사하는 직원처럼 대우해야 하며, 서면으로 정해진 규정과 명확히 규정된 책임, 그리고 그 성과에 대해 책임을 지는 담당 인력이 있어야 합니다. 게스트 필자인 Get Covered의 COO 리크 폴그만은 기업들에게 먼저 확립된 규칙에 따라 관리되는 업무부터 시작하고, 각 워크플로의 위험 수준에 맞춰 자율성을 조정하며, 에이전트의 권한을 확대하기 전에 결과를 정기적으로 검토할 것을 권고합니다.
심플리스마트는 연간화된 매출액이 6개월 만에 14배로 증가했으며, 미국 시장이 전체 매출의 절반 이상을 차지한다고 밝혔습니다.
