Feed

iOS 기기에서 120B 규모의 거대 언어 모델 로컬 구동 가능케 하는 Inpherio Live 공개

iOS 기기에서 120B 규모의 거대 언어 모델 로컬 구동 가능케 하는 Inpherio Live 공개

Sera Daily Brief — 2026-11-16 — 플래시 스토리지에서 MoE 가중치를 직접 스트리밍하는 방식으로 iOS의 앱당 메모리 제한을 극복하여 120B 모델 구동이 가능해졌습니다.

Items

1. Datasette Apps 0.4a0 출시: 앱 간 링크 및 프래그먼트 지원

  • Source: Simon Willison (Tool Release) | Novelty: update
  • Summary: Datasette Apps 0.4a0 버전이 출시되어 URL 프래그먼트를 통한 앱 간 링크 기능을 지원합니다. 이를 통해 서로 다른 앱들이 데이터를 공유하고 상호 연결되어 더 복잡한 데이터 시각화 및 분석 워크플로우를 구축할 수 있게 되었습니다.
  • Projects: —
  • Action: read
  • 원문

2. iOS 기기에서 120B 규모의 거대 언어 모델 로컬 구동 가능케 하는 Inpherio Live 공개

  • Source: r/LocalLLaMA (Local Inference) | Novelty: new
  • Summary: 플래시 스토리지에서 MoE 가중치를 직접 스트리밍하는 방식으로 iOS의 앱당 메모리 제한을 극복하여 120B 모델 구동이 가능해졌습니다. 이를 통해 클라우드 의존성 없는 고성능 로컬 AI 서버를 모바일 기기에서 구현할 수 있게 되었습니다.
  • Projects: nanoflow
  • Action: try
  • 원문

3. RAG-FGO: 생성형 RAG를 위한 쿼리 재작성 에이전트 동적 최적화 프레임워크

  • Source: ArXiv cs.CL (Research Paper) | Novelty: new
  • Summary: 쿼리 재작성을 이산-연속 혼합 공간의 블랙박스 최적화 문제로 정의하여 프롬프트 템플릿과 디코딩 파라미터를 동적으로 최적화하는 RAG-FGO 프레임워크를 제안합니다. 이를 통해 노이즈가 많은 피드백 환경에서도 검색 성능을 높이고 복잡한 시맨틱 검색 작업의 일반화 능력을 개선했습니다.
  • Projects: seronote, nanoflow
  • Action: read
  • 원문

4. LVMH 미디어 부문, OpenAI와 전략적 파트너십 체결

  • Source: OpenAI Blog (Other) | Novelty: new
  • Summary: LVMH 미디어 부문이 AI를 통한 저널리즘 지원 및 ChatGPT를 통한 출판물 접근성 확대를 위해 OpenAI와 협력합니다. 이는 럭셔리 미디어 콘텐츠의 AI 통합 및 배포 방식의 변화를 의미합니다.
  • Projects: —
  • Action: read
  • 원문

5. 주요 AI 모델별 패스트푸드 체인 순위 비교

  • Source: Anthropic (GNews) (Other) | Novelty: recurring
  • Summary: ChatGPT, Gemini, Claude, Perplexity 등 주요 LLM들이 선정한 최고의 패스트푸드 체인 순위를 비교 분석했습니다. 서로 다른 AI 모델들이 데이터 기반으로 선호도를 어떻게 다르게 평가하는지 보여줍니다.
  • Projects: —
  • Action: read
  • 원문

6. Datasette-maplibre 0.1a0 출시: MapLibre GL 및 OpenFreeMap 통합

  • Source: Simon Willison (Tool Release) | Novelty: new
  • Summary: MapLibre GL과 OpenFreeMap을 결합한 새로운 Datasette 지리 공간 플러그인이 출시되었습니다. Claude 5.2를 통해 개발되었으며, SVG 미리보기 후 WebGL을 로드하는 효율적인 렌더링 방식을 도입했습니다.
  • Projects: —
  • Action: try
  • 원문

7. ggml v1.0.0 출시: FP8 지원 확대 및 백엔드 성능 최적화

  • Source: GeekNews (Framework Update) | Novelty: update
  • Summary: llama.cpp의 텐서 라이브러리 ggml이 v1.0.0으로 업데이트되어 FP8 지원 확장과 CUDA/Metal 백엔드 성능 개선이 이루어졌습니다. RPC 프로토콜 버전 업데이트로 인해 클라이언트와 서버의 동시 업데이트가 필요하며, 전반적인 추론 효율성이 향상되었습니다.
  • Projects: —
  • Action: read
  • 원문

8. 멀티 에이전트 LLM의 성능 분석: 협업, 앙상블 및 추론 시간 연산의 상관관계

  • Source: ArXiv cs.CL (Research Paper) | Novelty: new
  • Summary: 멀티 에이전트 시스템의 성능 향상이 실제 협업 능력이 아닌 단순 샘플 수 증가나 연산량 확대에 기인함을 분석했습니다. 동일 자원 조건에서 멀티 에이전트 방식이 단일 모델보다 성능이 낮거나 비슷함을 입증하여 에이전트 설계의 효율성에 의문을 제기합니다.
  • Projects: —
  • Action: read
  • 원문

9. GPT-6 Astra를 활용한 표준 모델의 격자 정의 연구

  • Source: OpenAI Blog (Research Paper) | Novelty: new
  • Summary: GPT-6 Astra가 표준 모델의 비섭동적 격자 정의를 위한 상세 증명 과정을 지원했습니다. 이는 AI가 고도의 이론 물리학적 증명을 수행할 수 있음을 보여주는 사례입니다.
  • Projects: —
  • Action: read
  • 원문

10. AAAI-27 'LLM 사회 시뮬레이션' 워크숍 논문 모집

  • Source: r/MachineLearning (Other) | Novelty: recurring
  • Summary: LLM 에이전트 기반 사회 시뮬레이션의 귀속 문제와 인구 구성 방법론을 다루는 제3회 Social Sim 워크숍의 CFP가 발표되었습니다. LLM을 활용한 사회적 현상 분석의 신뢰성과 정밀도를 높이는 연구를 모집합니다.
  • Projects: —
  • Action: read
  • 원문

Stats

  • Collected: 55601 | Deduped (kept): 51682 | Triaged: 52631 | Enriched: 2896
  • Sources represented: 7/16
  • Generated: 2026-11-16 22:05
Loading comments...

Related content coming soon.