Tags
Tags reflect my interests at the time of writing, so some keywords may be missing.
- HCX
- KoED
- LaaJ
- MMLU
- MiniCPM
- Qwen
- activation
- activation-steering
- adaptor
- agent
- agent-memory
- ai-detection
- alignment-learning
- analysis
- attention
- audio
- baseline
- batch
- belief-state
- benchmark
- chatbot
- classification
- classify
- claude-code
- clip
- code
- coding
- cognitive-science
- comparison
- conference
- confidence-estimation
- contrastive-learning
- data-selection
- debate
- debug
- decoding
- design
- dialogue-system
- diffusion
- disagreement
- distillation
- distributional-analysis
- domain-adaptation
- dpo
- dst
- embedding
- emotion
- empathy
- ensemble
- evaluation
- exp_c
- exp_d
- experiential-knowledge
- factuality
- fullset
- function-calling
- fusion
- gan
- git
- gpu
- hallucination
- hci
- hcx
- human-reference
- hypernetwork
- icl
- icml2026
- implicit-conflict
- incident
- industry
- infra
- interject
- interpretability
- intervention
- kakaotalk
- kanana
- kmmlu
- knowledge
- knowledge-conflicts
- knowledge-editing
- knowledge-graph
- korean
- korean-bias
- laaj
- language-modeling
- listing
- literature-review
- llm
- llm-as-a-judge
- long-context
- long-horizon
- lrm
- lvlm
- memory
- mia
- mid
- minicpm
- mllm
- modality-gap
- modality-preference
- moe
- multi-agent
- multi-linguality
- multi-modal
- multi-modality
- multi-party
- multi-turn
- multimodal
- note
- observer
- observer-agent
- odqa
- omni
- omni-modal
- ops
- optimization
- paper
- papers
- parallel-sampling
- partial
- partial-observability
- pbrl
- peft
- persona
- personalization
- petl
- plan
- planning
- pomdp
- post-training
- ppo
- preference
- proactive
- probing
- procedural-memory
- proj-dialogue
- proj-memory
- projector
- prompt-compression
- prompting
- prosody
- publish-state
- qwen
- rag
- reasoning
- redesign
- reinforcement-learning
- remode
- representation-learning
- research
- research-plan
- respond
- rl
- sae
- safety
- scaling-laws
- self-consistency
- self-improvement
- self-learning
- self-reinforcing-error
- setup
- sft
- site
- slides
- status
- synthetic-data
- tableqa
- talk
- telegram
- test-time-scaling
- time-sensitive
- time-series
- tmux
- tool-calling
- transfer-learning
- transformers
- translate
- tts
- unlearning
- user-model
- user-preference
- user-simulation
- weight-merging
- workflow
- workshop
HCX 1 posts
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
KoED 3 posts
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
[log-15] 감정 — 데이터 준비 (KoED 재샘플링 + 톤 매핑)
KoED에서 6축 56샘플 재샘플링 + Kanana TTS로 감정 톤 오디오 아티팩트 생성.
[log-14] 감정 — 설계 (RQ3 · 과제 · 데이터 구성)
공감 대화 벤치마크 실험(감정분류, 감정응답) 설계 과정 정리. 감정 음성 데이터 확보 → Kanana TTS 감정 톤 제어 확인 → 과제 설계.
LaaJ 2 posts
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
MMLU 2 posts
Private exp_d 6모델 셋업 + skel 진입
This post will be published soon.
Private exp_d 설계 — KMMLU 실험 영어 데이터로 재현
This post will be published soon.
MiniCPM 1 posts
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
Qwen 1 posts
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
activation 3 posts
Theory, Analysis, and Best Practices for Sigmoid Self-Attention
Softmax를 Sigmoid와 상수 bias (sequence length기반)로 대체하는 등의 방식으로 attention 연산 속도를 18%가량 향상시킨 FLASHSIGMOID 제안
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
Jumping Ahead: Improving Reconstruction Fidelity with JumpReLU Sparse Autoencoders
기존 vanilla ReLU를 jumpReLU라는 비연속 activation으로 대체하여 새로운 SAE (sparse autoencodesr) SOTA, 비연속적인 activation 사용하지만 straight-through estimator로 효과적으로 학습
activation-steering 1 posts
Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate
multi-agent debate를 단일 LLM의 latent space로 distill하는 IMAD을 제안하고, 내부적으로 형성되는 agent subspace를 activation steering으로 식별·제어
adaptor 2 posts
Zero-Shot Cross-Domain Dialogue State Tracking via Dual Low-Rank Adaptation
multi-layer구조를 기반으로 한 transformer 계열 모델에서 prompt가 뒤쪽으로 갈수록 잊혀지는 문제를 완화하는 DualLoRA 제안
LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention
LLaMA-Adapter, a method for quickly and efficiently fine-tuning LLaMA into an instruction-following model using self-instruct demonstrations, matching Alpaca...
agent 15 posts
Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation
Tool-use에서 experiential knowledge를 획득·활성화·내재화 전 단계에 걸쳐 분석하고, instance-level trajectory + reasoning-width 확장(parallel sampling) + knowledge-aware training을 통합...
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
Advancing and Benchmarking Personalized Tool Invocation for LLMs
Personalized Tool Invocation이라는 새 task(Tool Preference + Profile-dependent Query)를 정의하고, LLM 기반 데이터 합성 프레임워크 PTool과 첫 벤치마크 PTBench를 구축해 Qwen2.5-7B를 SFT만으로 개인...
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
later observation이 explicit 부정 없이 (상식 수준에서) 전이되는 속성간 관계를 통해 earlier memory를 무효화하는 Implicit Conflict를 정의하고 이를 평가하는 long-term memory benchmark STALE 제안
ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models
LLM agent의 explicit recall이 아닌 implicit memory (자동화된 행동 적응)를 평가하는 최초의 benchmark를 제안하고, 17개 모델 모두 인간 baseline에 크게 못 미침을 실증
Memex(RL): Scaling Long-Horizon LLM Agents via Indexed Experience Memory
Long-horizon LLM agents의 context window bottleneck 해결을 위해, 구조화된 메모리 시스템 Indexed Experience Memory와 이를 학습하는 MemexRL 제안
MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks
multi-session + interdependent subtask 환경의 Memory-Agent-Environment loop를 평가하는 benchmark를 제안하고, 기존 memory system이 실제 agentic setting에서 매우 취약함을 실증
MEM1: Learning to Synergize Memory and Reasoning for Efficient Long-Horizon Agents
memory consolidation과 reasoning을 하나의 internal state로 통합하도록 RL 학습하여 long-horizon task에서 거의 일정한 context size 유지하며 성능 향상
SimpleMem: Efficient Lifelong Memory for LLM Agents
LLM Agent의 LTM을 semantic lossless compression으로 재정의하고, write-time 구조화·online synthesis·intent-aware retrieval로 성능과 토큰 효율(최대 30배)을 개선한 메모리 프레임워크 제안
Beyond Entangled Planning: Task-Decoupled Planning for Long-Horizon Agents
long-horizon task에서 발생하는 planning 실패의 핵심 원인을 entanglement로 규정, 이를 subtask 단위로 분리된 DAG 기반 planning으로 해결하는 것을 제안, 성능 향상 및 토큰 절감에서 유의
Adaptation of Agentic AI
agentic AI 연구에서 adaptation이라는 개념이 혼용되어왔고, 체계적인 시스템 수준 설계 및 비교를 가능하게 하기 위해 adaptation 대상(agent vs tool)과 adaptation을 유도하는 신호를 구분하는 분류 체계 제안
Budget-Aware Tool-Use Enables Effective Agent Scaling
툴 호출 예산을 단순히 늘리는 것만으로는 에이전트 성능이 스케일(TTS)되지 않으며, 예산을 명시적으로 인식하도록 하는 Budget Tracker와 BATS 프레임워크를 도입하면 비용 대비 성능 스케일링과 Pareto frontier가 크게 개선된다.
ReSpAct: Harmonizing Reasoning, Speaking, and Acting Towards Building Large Language Model-Based Conversational AI Agents
LLM-based agent에 reasoning, conversation, action 기능을 통합, 대화형 환경에서 역동적/협업적/context-aware한 task-solving을 가능하게 하는 ReSpAct 프레임워크 제안
Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems
Meta info. Authors: Bang Liu, Xinfeng Li, Jiayi Zhang, Jinlin Wang, Tanjin He, Sirui Hong, Hongzhang Liu, Shaokun Zhang, Kaitao Song, Kunlun Zhu, Y...
A-MEM: Agentic Memory for LLM Agents
LLM-based long-term memory를 위한 기억 시스템 A-MEM 제안
agent-memory 1 posts
Belief Memory: Agent Memory Under Partial Observability
기존 agent memory가 관측을 단일 deterministic 결론으로 저장해 self-reinforcing error를 일으킨다는 문제를 지적하고, 후보 결론들을 확률과 함께 유지하며 noisy-OR로 갱신하는 belief 기반 memory(BeliefMem)를 제안
ai-detection 3 posts
Infini-gram: Scaling Unbounded n-gram Language Models to a Trillion Tokens
∞-n과 조단위 token corpus로 n-gram 쿼리를 효율적으로 처리하는 infini-gram 공개
Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text
별도 학습이나 튜닝 없이 한 쌍의 pretrained LLM으로 간단히 계산만 하면 machine generated text를 탐지해내는 방법론 Binoculars 제안. 생성된 sample 90% 이상 탐지(pic1)
Scalable Extraction of Training Data from (Production) Language Models
ChatGPT의 alignment training의 결점으로부터 ChatGPT의 training data를 추출하는 기술을 개발
alignment-learning 6 posts
A Survey on Personalized and Pluralistic Preference Alignment in Large Language Models
LLM에서의 개인화/다원적 선호 정렬을 training/test-time, 사용자 모델링 기반 방법으로 체계화, 평가 및 확장성 측면의 구조적 한계 확인
The Differences Between Direct Alignment Algorithms are a Blur
Direct Alignment Algorithms (DAAs)의 구조적 차이 분석, RL 없이도 DPO 수준의 성능 달성 가능성 시사
Alignment Faking in Large Language Models
alignment learning중에 LLM은 objective를 따르는 척 하지만, 사실은 원래 pretraining에서부터 갖고 있던 선호(자기 선호)를 잃기 싫기 때문에, training중에만 alignment된 척 위장하는 Alignment Faking 발생 현상에 대한 연구
Direct Multi-Turn Preference Optimization for Language Agents
Multi-turn 에서 RL Objectives를 직접 optimize하는 손실함수의 Direct Multi-Turn Preference Optimization (DMPO) 제안
Planning Like Human: A Dual-process Framework for Dialogue Planning
익숙한 상황을 처리하는 intuitive (fast) 정책 모델과 새로운 시나리오를 위한 analytical (slow)의 정책 모델을 상호 보완적으로 사용하는 이중 dialogue planning 프레임워크 제안
Scaling Laws for Reward Model Overoptimization
RM으로 Policy model을 학습하면 학습할수록 real (human) preference와 격차가 벌어지는 overoptimization이 (반드시) 발생되며, 이 현상의 도달을 늦추는(?) 데에는 RM의 사이즈를 키우는게 유의한 영향을 끼치는 것으로 보임.
analysis 1 posts
[log-08] 지식 — 비교 모델 분석 방법 정리
지식 실험 비교 모델 분석 방법론 정리. RQ 재배치 반영.
attention 2 posts
Differential Transformer
Q/K를 각각 두 그룹으로 나누어 2개의 softmax attention map간 차이를 계산, relevant context에 대한 attention을 키우고 노이즈는 제거하는 방식의 transformers 변형 제안, hallucination 개선
Selective Attention Improves Transformer
attention 연산에서 파라미터 변경 없이, 생성된 token이 다른 token이 더이상 필요 없다고 결정할 수 있도록 처리, 미래 시점에서는 해당 token이 불필요하다고 판단했던 token들에 대한 attention을 줄이는 방법으로 효과적으로 메모리 사용량과 계산 비용을 ...
audio 1 posts
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
baseline 1 posts
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
batch 1 posts
Private 영어 지식 QA — HCX/MiniCPM26 batch
This post will be published soon.
belief-state 1 posts
Belief Memory: Agent Memory Under Partial Observability
기존 agent memory가 관측을 단일 deterministic 결론으로 저장해 self-reinforcing error를 일으킨다는 문제를 지적하고, 후보 결론들을 확률과 함께 유지하며 noisy-OR로 갱신하는 belief 기반 memory(BeliefMem)를 제안
benchmark 17 posts
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
Advancing and Benchmarking Personalized Tool Invocation for LLMs
Personalized Tool Invocation이라는 새 task(Tool Preference + Profile-dependent Query)를 정의하고, LLM 기반 데이터 합성 프레임워크 PTool과 첫 벤치마크 PTBench를 구축해 Qwen2.5-7B를 SFT만으로 개인...
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
later observation이 explicit 부정 없이 (상식 수준에서) 전이되는 속성간 관계를 통해 earlier memory를 무효화하는 Implicit Conflict를 정의하고 이를 평가하는 long-term memory benchmark STALE 제안
ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models
LLM agent의 explicit recall이 아닌 implicit memory (자동화된 행동 적응)를 평가하는 최초의 benchmark를 제안하고, 17개 모델 모두 인간 baseline에 크게 못 미침을 실증
TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models
시계열 추론을 위한 포괄적 benchmark TSR-Suite와 SFT+RL 2단계 학습 기반의 통합 추론 모델 TimeOmni-1을 제안, GPT-4.1 대비 causal discovery 정확도 +40.6% 달성
MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks
multi-session + interdependent subtask 환경의 Memory-Agent-Environment loop를 평가하는 benchmark를 제안하고, 기존 memory system이 실제 agentic setting에서 매우 취약함을 실증
MultiChallenge: A Realistic Multi-Turn Conversation Evaluation Benchmark Challenging to Frontier LLMs
multi-turn setup에서의 난제 4가지 (Instruction Retention, Inference Memory, Reliable Versioned Editing, Self-Coherence)를 평가하는 벤치마크 제안, 기존 벤치마크에 성공하는 최신 SOTA 모델들도 제안...
TO CHAT OR TASK: a Multi-turn Dialogue Generation Framework for Task-Oriented Dialogue Systems
chitchat과 task request가 결합된 multi-turn dialogue 자동 구축하는 framework CTFUSION 제안, 이를 활용해 만든 IVSR-CTF 데이터셋으로 학습한 ICS 모델이 기능 의도 분류에서 LLM을 능가하며 그 효과 확인
MemBench: Towards More Comprehensive Evaluation on the Memory of LLM-based Agents
multi-scenario (participation & observation) + multi-level (factual & reflective) 메모리 유형 통합, multi-metric evaluation를 사용하는 LLM-based agent의 메모리를 평가하는 벤치마크인 M...
DeepPerception: Advancing R1-like Cognitive Visual Perception in MLLMs for Knowledge-Intensive Visual Grounding
MLLMs가 cognitive visual reasoning 하도록 학습하는 DeepPerception 제안+ Knowledge-Intensive Visual Grounding task 소개 (+ KVG-Bench 공개)
MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents
협업적/경쟁적 상황에서 에이전트끼리 상호작용하는 시스템 평가에 대한 벤치마크 MARBLE 제안
NeedleBench: Can LLMs Do Retrieval and Reasoning in 1 Million Context Window?
(1) 여러 길이의 interval (2) 다양한 depth range를 가진 (3) 점진적으로 어려워지는 (4) 2 언어(영문/중문)의 long context 능력을 평가하는 NeedleBench 제안 및 다양한 모델로 평가 결과 리포트
Do Large Language Model Understand Multi-Intent Spoken Language ?
SLU(Spoken Language Understanding)에 대한 LLM 활용 연구를 위한 LM-MixATIS, LM-MixSNIPS 벤치마크 및 metric 제안
CRUD-RAG: A Comprehensive Chinese Benchmark for Retrieval-Augmented Generation of Large Language Models
기존 RAG 벤치마크는 범위와 다양성이 제한되어 있고, 검색 요소(retriever)와 외부 KB의 영향을 고려하지 못하는 한계가 있다고 지적하며, RAG Application의 범위를 CRUD로 분류하고 각각에 대한 평가 task와 데이터셋 공개. (중국어)
Narrowing the Knowledge Evaluation Gap: Open-Domain Question Answering with Multi-Granularity Answers
ODQA에서 모델 response를 더 세분화된 수준으로 나눠서 정확성 및 정보성 측면에서 평가할 수 있는 GRANOLA QA 벤치마크 공개 및 그 세분화된 정보성을 확보하기 위한 디코딩 방식 DRAG 제안
chatbot 1 posts
Synthetic Users, Real Differences: an Evaluation Framework for User Simulation in Multi-Turn Conversations
real vs simulated 대화를 8개 dimension의 distribution 차이로 비교하는 realsim framework를 제안, LLM 기반 user simulator가 communication friction을 잘 못 재현해 chatbot 평가가 over-opti...
classification 1 posts
Label Supervised LLaMA Finetuning
decoder 구조의 LLMs로 classification SFT
classify 4 posts
[log-20] 감정분류 — 4모델 최종 결과
평균 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% > Kanana 20%. 모델이 감정 레이블 별 정확도 성능이 다르다: Kanana 는 “정” 56%, HCX 는 “중립” 75%, Qwen 은 “분노” 72%에서 강점, MiniCPM 은 상...
[log-18] 감정분류 — 비교 모델 3종 추론 완료 + Kanana 진행 중
비교 모델 3종(HCX/Qwen/MiniCPM) 추론이 56/56 끝나서 4 모델 × 4 input variant 매트릭스가 완성됐다. Kanana 만 quota 일중단으로 17/56 부분 진행. 종합 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% ...
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
claude-code 1 posts
Private telegram for claude code
This post will be published soon.
clip 1 posts
Is the Modality Gap a Bug or a Feature? A Robustness Perspective
CLIP 계열 multi-modal contrastive model의 modality gap이 robustness를 저하시키는 bug라는 프레이밍을 이론적으로 증명, clean accuracy 손실 없이 robustness를 개선하는 post-processing 알고리즘 제안
code 5 posts
Divide-and-Conquer Meets Consensus: Unleashing the Power of Functions in Code Generation
Divide-and-Conquer 전략에 기능적 합의(functional consensus)를 접목한 CodeGen framework FUNCODER 제안
Text2SQL is Not Enough: Unifying AI and Databases with TAG
LM과 RDB간 interaction을 통합 및 일반화하는 Table-Augmented Generation(TAG) 제안
To Code, or Not To Code? Exploring Impact of Code in Pre-training
사전학습때 Code를 보면 정말 좋은가?를 실험으로 경험적 검증
Unsupervised Evaluation of Code LLMs with Round-Trip Correctness
RTC(round-trip correctness)라는 간단한 방식으로 LM의 코드 능력 평가
LLM-Assisted Code Cleaning For Training Accurate Code Generators
Code Generation 모델 학습시 학습 데이터=코드를 가독성 좋게 리팩토링하면 모델 성능이 훨씬 좋아진다.
coding 1 posts
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
Coding agent의 self-evolving memory를 domain 내부 말고도 그 밖에 있는 domain 간 transfer 하자; 추상도가 높은 Insight 형태의 meta-knowledge가 cross-domain에서 일관된 성능 향상을 만든다.
cognitive-science 1 posts
ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models
LLM agent의 explicit recall이 아닌 implicit memory (자동화된 행동 적응)를 평가하는 최초의 benchmark를 제안하고, 17개 모델 모두 인간 baseline에 크게 못 미침을 실증
comparison 1 posts
[log-08] 지식 — 비교 모델 분석 방법 정리
지식 실험 비교 모델 분석 방법론 정리. RQ 재배치 반영.
conference 1 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.
confidence-estimation 1 posts
A Theoretical Study on Bridging Internal Probability and Self-Consistency for LLM Reasoning
Sampling-based test-time scaling의 첫 이론적 프레임워크를 제안하고, SC와 PPL의 한계를 분석하여 두 방법의 장점을 결합한 RPC를 제안
contrastive-learning 1 posts
Is the Modality Gap a Bug or a Feature? A Robustness Perspective
CLIP 계열 multi-modal contrastive model의 modality gap이 robustness를 저하시키는 bug라는 프레이밍을 이론적으로 증명, clean accuracy 손실 없이 robustness를 개선하는 post-processing 알고리즘 제안
data-selection 1 posts
Diversify and Conquer: Diversity-Centric Data Selection with Iterative Refinement
instance level로 괜찮은 데이터만 골라 학습하기보다, k-means clustering 활용한 Diversity-Centric Data Selection이 LLM finetuning의 효율성과 성능 향상에 유의하다.
debate 1 posts
Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate
multi-agent debate를 단일 LLM의 latent space로 distill하는 IMAD을 제안하고, 내부적으로 형성되는 agent subspace를 activation steering으로 식별·제어
debug 1 posts
Private 영어 지식 QA — HCX/MiniCPM26 batch
This post will be published soon.
decoding 1 posts
WAIT, WAIT, WAIT… Why Do Reasoning Models Loop?
Reasoning 모델의 looping은 decoding artifact만이 아니라 learning errors가 greedy/low-temp에서 증폭되며 발생, temperature는 loop를 줄이지만 근본 원인을 고치지 못해 불필요하게 긴 CoT를 생성한다.
design 3 posts
Private exp_d 6모델 셋업 + skel 진입
This post will be published soon.
Private exp_d 설계 — KMMLU 실험 영어 데이터로 재현
This post will be published soon.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
dialogue-system 18 posts
Flipping the Dialogue: Training and Evaluating User Language Models
Assistant용 LM을 user처럼 역할 지시해 시뮬레이션하는 기존 방식은 본질적으로 비현실적이며, 실제 human user 행동을 학습한 UserLM이 훨씬 더 자연스러운 multi-turn user behavior를 재현해 assistant 성능의 진짜 한계를 드러낸다.
LightMem: Lightweight and Efficient Memory-Augmented Generation
sensory > topic-aware short-term > sleep-time long-term memory 업데이트의 3단계 메모리 구조 제안, LongMemEval 정확도 향상 및 token/API call/runtime 비용 대폭 축소 확인
DiaTool-DPO: Direct Preference Optimization for Controlling Conversation Flow in Tool-Augmented LLMs
Tool-augmented dialogue를 5개 hidden state를 MDP로 formulate하고, chosen-rejected trajectory pair 자동 생성해 DPO-style objective로 학습. slot-filling/tool rejection 능력 대폭 향상
Facilitating Multi-Turn Function Calling for LLMs via Compositional Instruction Tuning
Task - Function으로 연결하는 Planning 기반의 multi-turn* Function Calling 프레임워크 BUTTON 제안
Am I Me or You? State-of-the-Art Dialogue Models Cannot Maintain an Identity
최신 대화 모델은 종종 정체성을 유지하지 못하며, expanded attention & classifier-based reranking으로 오류를 65% 줄일 수 있으나 여전히 challenge이다.
TO CHAT OR TASK: a Multi-turn Dialogue Generation Framework for Task-Oriented Dialogue Systems
chitchat과 task request가 결합된 multi-turn dialogue 자동 구축하는 framework CTFUSION 제안, 이를 활용해 만든 IVSR-CTF 데이터셋으로 학습한 ICS 모델이 기능 의도 분류에서 LLM을 능가하며 그 효과 확인
Exploring Persona Sentiment Sensitivity in Personalized Dialogue Generation
LLM은 persona의 sensitivity에 매우 민감하여 부정적 persona는 일관성 없는 대화를, 긍정적 persona는 더 원활하고 질 높은 상호작용을 하기 떄문에, robustness 개선을 위해 polarity-aware 생성 전략 제안
Dynamic Epistemic Friction in Dialogue
대화에서 belief은 통상 연구들의 가정처럼 '매끄럽게' 업데이트 되지 않으므로, 새로운 정보에 대한 수용 저항(epistemic friction)을 정량화/벡터화하여 모델링하는 belief 변화 모델링 제안
CONFETTI: Conversational Function-Calling Evaluation Through Turn-Level Interactions
multi-turn dialogue에서 LLM Function Calling을 평가하는 벤치마크 CONFETTI 제안. 현재 모델들은 여전히 복잡한 연쇄의/긴 컨텍스트/대형 API 선택에 한계가 있음을 확인.
Direct Multi-Turn Preference Optimization for Language Agents
Multi-turn 에서 RL Objectives를 직접 optimize하는 손실함수의 Direct Multi-Turn Preference Optimization (DMPO) 제안
Dialogue Ontology Relation Extraction via Constrained Chain-of-Thought Decoding
LLM-based Dialogue Ontology (DST key-value pair) 구축을 위한 CCoT-decoding Relation Extraction 제안
Planning Like Human: A Dual-process Framework for Dialogue Planning
익숙한 상황을 처리하는 intuitive (fast) 정책 모델과 새로운 시나리오를 위한 analytical (slow)의 정책 모델을 상호 보완적으로 사용하는 이중 dialogue planning 프레임워크 제안
Adaptive Retrieval-Augmented Generation for Conversational Systems
주어진 대화에서 전환시 외부 지식의 증강이 필요한지 여부를 선택적으로 결정하는 매커니즘 제안
Zero-Shot Cross-Domain Dialogue State Tracking via Dual Low-Rank Adaptation
multi-layer구조를 기반으로 한 transformer 계열 모델에서 prompt가 뒤쪽으로 갈수록 잊혀지는 문제를 완화하는 DualLoRA 제안
ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities
이전 공개했던 모델(Chat QA 1.5)을 LLaMA3-70B의 context length 확장하면서 instruction following / RAG capability 향상시키는 방법 제시
ReALM: Reference Resolution As Language Modeling
Pipeline style로 reference resolution에 대해 finetune된 작은 모델(ReALM)로 해결 시도
ChatQA: Building GPT-4 Level Conversational QA Models
LLM zero-shot에서 대화꼴 QA 성능을 크게 개선할 수 있는 2-stage instruction tuning 방법 제안.
Bootstrapping LLM-based Task-Oriented Dialogue Agents via Self-Talk
LM이 Self-Talk를 통해 training 데이터를 생성>정제>SFT에 활용 (bootstrapping). 이 과정에서 병목을 해소하기 위해 대화성공 여부를 측정하는 automatic metric 제안
diffusion 1 posts
LongLLaDA: Unlocking Long Context Capabilities in Diffusion LLMs
훈련할 때 본 context length를 넘어서도 Diffusion-based LLM의 "local perception" 덕분에 안정적 성능을 달성하는 LongLLaDA 제안. NTK 기반 RoPE extrapolation으로 Diffusion-based LLM의 input le...
disagreement 1 posts
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
distillation 1 posts
Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate
multi-agent debate를 단일 LLM의 latent space로 distill하는 IMAD을 제안하고, 내부적으로 형성되는 agent subspace를 activation steering으로 식별·제어
distributional-analysis 1 posts
Synthetic Users, Real Differences: an Evaluation Framework for User Simulation in Multi-Turn Conversations
real vs simulated 대화를 8개 dimension의 distribution 차이로 비교하는 realsim framework를 제안, LLM 기반 user simulator가 communication friction을 잘 못 재현해 chatbot 평가가 over-opti...
domain-adaptation 6 posts
RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework
다양한 문서 생성 + QA pair 구성하여 다양한 시나리오에서 LLM의 지식 사용 능력 평가하는 Framework 제안
Do Large Language Model Understand Multi-Intent Spoken Language ?
SLU(Spoken Language Understanding)에 대한 LLM 활용 연구를 위한 LM-MixATIS, LM-MixSNIPS 벤치마크 및 metric 제안
Specialized Language Models with Cheap Inference from Limited Domain Data
1) generic pretraining cost 2) domain-specific pretraining cost 3) inference cost 4) size of specific domain training set 네가지 제약조건 하에서 가장 효율적인 학습에 대한 emperic...
DocLLM: A layout-aware generative language model for multimodal document understanding
multi-modal LLM에서 착안, LM이 text와 (정형화된 document 내에서 ) 위치정보를 input으로 받도록 하여 internal structured document understanding 문제 해결
LLaMA Pro: Progressive LLaMA with Block Expansion
새로 추가한 블록의 매개변수만 도메인 데이터로 업데이트하는 post-pretraining 방식의 block expansion이 domain-specific task에 특히 유용하다고 제안. 전체를 finetuning할 때 발생되는 망각이 일어나지 않는다고. 동일 데이터 사용을 전제...
BloombergGPT: A Large Language Model for Finance
A combined pre-training approach for domain-specific and non-domain-specific corpus. It describes the dataset, model configuration, and training procedure fo...
dpo 3 posts
Critical Tokens Matter: Token-Level Contrastive Estimation Enhances LLM’s Reasoning Capability
오류 추론이 발생하는 과정에 중요 역할(원인)을 하는 토큰 (critical token)을 식별하여 이 토큰을 모델 추론 개선에 적용(cDPO)하는 방법론 제안
CRAB: Constraint Back-translation Improves Complex Instruction Following of Large Language Models
제약조건을 재생성 (backtranslation) 시키면 제약조건을 더 잘 따르더라
Self-Rewarding Language Models
반복적인 DPO 훈련으로 사람이 설계한 reward model이 아닌, LLM-as-a-Judge mechanism을 사용, LM이 자율적으로 instruction following & reward modeling > refine 반복.
dst 1 posts
Dialogue Ontology Relation Extraction via Constrained Chain-of-Thought Decoding
LLM-based Dialogue Ontology (DST key-value pair) 구축을 위한 CCoT-decoding Relation Extraction 제안
embedding 1 posts
Is the Modality Gap a Bug or a Feature? A Robustness Perspective
CLIP 계열 multi-modal contrastive model의 modality gap이 robustness를 저하시키는 bug라는 프레이밍을 이론적으로 증명, clean accuracy 손실 없이 robustness를 개선하는 post-processing 알고리즘 제안
emotion 16 posts
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
Private respond + LaaJ 운영 기록 (Kanana 본 실행 + 5/01·5/11 judge 회차)
This post will be published soon.
[log-20] 감정분류 — 4모델 최종 결과
평균 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% > Kanana 20%. 모델이 감정 레이블 별 정확도 성능이 다르다: Kanana 는 “정” 56%, HCX 는 “중립” 75%, Qwen 은 “분노” 72%에서 강점, MiniCPM 은 상...
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
Private 감정 — Qwen flash redo
This post will be published soon.
[log-18] 감정분류 — 비교 모델 3종 추론 완료 + Kanana 진행 중
비교 모델 3종(HCX/Qwen/MiniCPM) 추론이 56/56 끝나서 4 모델 × 4 input variant 매트릭스가 완성됐다. Kanana 만 quota 일중단으로 17/56 부분 진행. 종합 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% ...
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
Private 감정 — log-17 분리
This post will be published soon.
Private 감정 — 진행 상태
This post will be published soon.
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
Private 감정 — 디버깅·smoke
This post will be published soon.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
[log-15] 감정 — 데이터 준비 (KoED 재샘플링 + 톤 매핑)
KoED에서 6축 56샘플 재샘플링 + Kanana TTS로 감정 톤 오디오 아티팩트 생성.
[log-14] 감정 — 설계 (RQ3 · 과제 · 데이터 구성)
공감 대화 벤치마크 실험(감정분류, 감정응답) 설계 과정 정리. 감정 음성 데이터 확보 → Kanana TTS 감정 톤 제어 확인 → 과제 설계.
empathy 2 posts
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
[log-14] 감정 — 설계 (RQ3 · 과제 · 데이터 구성)
공감 대화 벤치마크 실험(감정분류, 감정응답) 설계 과정 정리. 감정 음성 데이터 확보 → Kanana TTS 감정 톤 제어 확인 → 과제 설계.
ensemble 5 posts
Cooper: Co-Optimizing Policy and Reward Models in Reinforcement Learning for Large Language Models
policy와 reference-based RM (verifyRM) 을 동시에 update하는 RL framework COOPER 제안. reward hacking을 막기 위해 rule-based positives와 LLM-generated negatives를 활용한 contras...
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
RouteLLM: Learning to Route LLMs with Preference Data
비용 절감을 위한 LLM routing 방법 제안
Knowledge Fusion of Large Language Models
기존에 각기 다른 구조를 가지면서 다양한 방식으로 학습된 여러 LLMs(soucre LLMs)을 병합해서 더 strong하게 만드는 방법(pic1)으로, 여러 LLM의 지식을 외부화하여 그들의 capability를 새로운 LLM(target LLM)으로 transfer하는 방법을 ...
Blending is All You Need
여러 개의 작은 모델을 Blend해서 하나의 큰 모델과 비슷한 혹은 더 나은 성능을 낼 수 있다.
evaluation 12 posts
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Synthetic Users, Real Differences: an Evaluation Framework for User Simulation in Multi-Turn Conversations
real vs simulated 대화를 8개 dimension의 distribution 차이로 비교하는 realsim framework를 제안, LLM 기반 user simulator가 communication friction을 잘 못 재현해 chatbot 평가가 over-opti...
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
MultiChallenge: A Realistic Multi-Turn Conversation Evaluation Benchmark Challenging to Frontier LLMs
multi-turn setup에서의 난제 4가지 (Instruction Retention, Inference Memory, Reliable Versioned Editing, Self-Coherence)를 평가하는 벤치마크 제안, 기존 벤치마크에 성공하는 최신 SOTA 모델들도 제안...
RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework
다양한 문서 생성 + QA pair 구성하여 다양한 시나리오에서 LLM의 지식 사용 능력 평가하는 Framework 제안
NeedleBench: Can LLMs Do Retrieval and Reasoning in 1 Million Context Window?
(1) 여러 길이의 interval (2) 다양한 depth range를 가진 (3) 점진적으로 어려워지는 (4) 2 언어(영문/중문)의 long context 능력을 평가하는 NeedleBench 제안 및 다양한 모델로 평가 결과 리포트
LLM Comparator: Visual Analytics for Side-by-Side Evaluation of Large Language Models
LM들을 늘어놓고 평가할 수 있도록 디자인된 시각화 툴 제안
Unsupervised Evaluation of Code LLMs with Round-Trip Correctness
RTC(round-trip correctness)라는 간단한 방식으로 LM의 코드 능력 평가
CRUD-RAG: A Comprehensive Chinese Benchmark for Retrieval-Augmented Generation of Large Language Models
기존 RAG 벤치마크는 범위와 다양성이 제한되어 있고, 검색 요소(retriever)와 외부 KB의 영향을 고려하지 못하는 한계가 있다고 지적하며, RAG Application의 범위를 CRUD로 분류하고 각각에 대한 평가 task와 데이터셋 공개. (중국어)
Bootstrapping LLM-based Task-Oriented Dialogue Agents via Self-Talk
LM이 Self-Talk를 통해 training 데이터를 생성>정제>SFT에 활용 (bootstrapping). 이 과정에서 병목을 해소하기 위해 대화성공 여부를 측정하는 automatic metric 제안
exp_c 1 posts
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
exp_d 3 posts
Private 영어 지식 QA — HCX/MiniCPM26 batch
This post will be published soon.
Private exp_d 6모델 셋업 + skel 진입
This post will be published soon.
Private exp_d 설계 — KMMLU 실험 영어 데이터로 재현
This post will be published soon.
experiential-knowledge 1 posts
Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation
Tool-use에서 experiential knowledge를 획득·활성화·내재화 전 단계에 걸쳐 분석하고, instance-level trajectory + reasoning-width 확장(parallel sampling) + knowledge-aware training을 통합...
factuality 5 posts
The FACTS Grounding Leaderboard: Benchmarking LLMs’ Ability to Ground Responses to Long-Form Input
long input에 대한 response의 사실성 평가 벤치마크 제안. 최대 32K token의 입력 처리, 자동 평가 프레임워크 공개
Real-time Fake News from Adversarial Feedback
LLM의 fake news를 더 잘 생성하게 하는 방법. 학습 이후 발생되는 사건의 fake news 탐지를 위해, adversarial iterative fake news 생성 파이프라인 제안
Deductive Closure Training of Language Models for Coherence, Accuracy, and Updatability
standard LM training에 특정 text를 생성하도록 학습시킨다고 해서 그 text의 implies(함의)에 해당하는 text들의 probability가 높아지는 것은 아님. factuality 측면에서 관련 fact set (text)에도 높은 확률을 assign하기...
DocLLM: A layout-aware generative language model for multimodal document understanding
multi-modal LLM에서 착안, LM이 text와 (정형화된 document 내에서 ) 위치정보를 input으로 받도록 하여 internal structured document understanding 문제 해결
Narrowing the Knowledge Evaluation Gap: Open-Domain Question Answering with Multi-Granularity Answers
ODQA에서 모델 response를 더 세분화된 수준으로 나눠서 정확성 및 정보성 측면에서 평가할 수 있는 GRANOLA QA 벤치마크 공개 및 그 세분화된 정보성을 확보하기 위한 디코딩 방식 DRAG 제안
fullset 1 posts
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
function-calling 6 posts
Adaptation of Agentic AI
agentic AI 연구에서 adaptation이라는 개념이 혼용되어왔고, 체계적인 시스템 수준 설계 및 비교를 가능하게 하기 위해 adaptation 대상(agent vs tool)과 adaptation을 유도하는 신호를 구분하는 분류 체계 제안
Budget-Aware Tool-Use Enables Effective Agent Scaling
툴 호출 예산을 단순히 늘리는 것만으로는 에이전트 성능이 스케일(TTS)되지 않으며, 예산을 명시적으로 인식하도록 하는 Budget Tracker와 BATS 프레임워크를 도입하면 비용 대비 성능 스케일링과 Pareto frontier가 크게 개선된다.
ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration
작은 8B 오케스트레이터 모델이 다양한 툴과 LLM을 RL로 통합적으로 조정하여 정확도/비용/latency/유저 선호를 동시에 최적화하는 툴 기반 에이전트 프레임워크를 제안. GPT-5보다 싸고 성능 좋은 결과를 보인다.
Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models
generation > reflection > curation 모듈을 거쳐 incremental delta updates만 반영하는 prompt refinement framework ACE 제안
DiaTool-DPO: Direct Preference Optimization for Controlling Conversation Flow in Tool-Augmented LLMs
Tool-augmented dialogue를 5개 hidden state를 MDP로 formulate하고, chosen-rejected trajectory pair 자동 생성해 DPO-style objective로 학습. slot-filling/tool rejection 능력 대폭 향상
Facilitating Multi-Turn Function Calling for LLMs via Compositional Instruction Tuning
Task - Function으로 연결하는 Planning 기반의 multi-turn* Function Calling 프레임워크 BUTTON 제안
fusion 1 posts
Knowledge Fusion of Large Language Models
기존에 각기 다른 구조를 가지면서 다양한 방식으로 학습된 여러 LLMs(soucre LLMs)을 병합해서 더 strong하게 만드는 방법(pic1)으로, 여러 LLM의 지식을 외부화하여 그들의 capability를 새로운 LLM(target LLM)으로 transfer하는 방법을 ...
gan 1 posts
The GAN is dead; long live the GAN! A Modern GAN Baseline
학습이 불안정한 GAN의 1) Loss 수정 2) 최신 architecture 적용하여 SOTA
git 1 posts
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
gpu 1 posts
Private 운영 — RTX 3090 persistence 끊김 처방
This post will be published soon.
hallucination 6 posts
Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
OLLM은 기존 VLM의 text-dominance와 달리 vision을 선호하고 audio를 체계적으로 무시하며, 이 modality preference는 mid-to-late layer에서 emergent하게 형성되고, 이를 layer-wise linear probe로 추적해 ...
MultiChallenge: A Realistic Multi-Turn Conversation Evaluation Benchmark Challenging to Frontier LLMs
multi-turn setup에서의 난제 4가지 (Instruction Retention, Inference Memory, Reliable Versioned Editing, Self-Coherence)를 평가하는 벤치마크 제안, 기존 벤치마크에 성공하는 최신 SOTA 모델들도 제안...
Knowing When to Ask - Bridging Large Language Models and Data
Data Commons (knowledge Graph)를 활용하여 LLM 응답의 사실성과 신뢰성을 향상시켜 LLM과 실제 데이터 간의 격차 해소하는 DataGemma 소개
Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAG Noise in Large Language Models
LLM의 RAG 상황에서 다양한 Noise를 구분하고 분석. 유익한 Noise의 경우 모델 성능이 향상된다는 것을 확인. 벤치마크 NoiserBench를 제시하여 LLM의 Noise 대응 평가 및 유익한 noise는 활용하고 해로운 noise는 줄이는 방법 제시.
Training Language Models on the Knowledge Graph: Insights on Hallucinations and Their Detectability
모델 사이즈가 크고 학습 시간이 길수록 hallucination이 덜 발생하는 건 맞지만, 이를 5%이하의 낮은 수준으로 줄이려면 (일반적으로 알려진 scaling law보다) 훨씬 더 큰 모델과 더 많은 컴퓨팅 자원이 필요하다.
Having Beer after Prayer? Measuring Cultural Bias in Large Language Models
아랍-서구문화가 대조되는 entity와 natural occurring prompt 구성된 데이터셋 CAMeL을 제안하고, 이를 통해 사례연구한 결과 LLM이 서구문화권 entity에 편향되어 있음에 대한 우려
hci 1 posts
LLM Comparator: Visual Analytics for Side-by-Side Evaluation of Large Language Models
LM들을 늘어놓고 평가할 수 있도록 디자인된 시각화 툴 제안
hcx 3 posts
Private 영어 지식 QA — HCX/MiniCPM26 batch
This post will be published soon.
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
human-reference 1 posts
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
hypernetwork 1 posts
Specialized Language Models with Cheap Inference from Limited Domain Data
1) generic pretraining cost 2) domain-specific pretraining cost 3) inference cost 4) size of specific domain training set 네가지 제약조건 하에서 가장 효율적인 학습에 대한 emperic...
icl 7 posts
Adaptive Retrieval-Augmented Generation for Conversational Systems
주어진 대화에서 전환시 외부 지식의 증강이 필요한지 여부를 선택적으로 결정하는 매커니즘 제안
Do Large Language Model Understand Multi-Intent Spoken Language ?
SLU(Spoken Language Understanding)에 대한 LLM 활용 연구를 위한 LM-MixATIS, LM-MixSNIPS 벤치마크 및 metric 제안
Self-Discover: Large Language Models Self-Compose Reasoning Structures
델이 여러 reasoning techniques(CoT, critical thinking, ...) 중에서 하나를 스스로 선택하여 task별로 적합한 추론 전략을 구성하도록 하는 프레임워크 제안. BBH에서 단순 CoT보다 성능이 좋고 CoT Self-consistency보다도 추...
Orion-14B: Open-source Multilingual Large Language Models
한국어 포함 동아시아권 언어를 중심으로 학습된 multilingual model 공개. Vocab 사이즈도 상대적이지만 결코 작지 않고, 실제 성능도 훌륭한 수준.
The Power of Noise: Redefining Retrieval for RAG Systems
RAG에서 Retrieval 에 집중하여, document와 prompt의 연관성, prompt에서 document의 위치와 수 등 다양한 요소를 평가.
Corrective Retrieval Augmented Generation
confidence score, web search, knowledge refinement로 잘못 찾아온, 혹은 최적이 아닌 결과를 self-correction하여 모델 생성 결과에 hallucination 감소
Larger language models do in-context learning differently
충분히 큰 LLM은 사전학습과 배척되는 label이 주어지더라도, 사전학습 내용을 덮어두고 새로 주어진 label로 override 할 수 있음. 이 뿐만 아니라 충분히 큰 LLM은 label을 의미적으로 관련 없는 label로 대체해도 성능이 나옴.
icml2026 2 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
implicit-conflict 1 posts
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
later observation이 explicit 부정 없이 (상식 수준에서) 전이되는 속성간 관계를 통해 earlier memory를 무효화하는 Implicit Conflict를 정의하고 이를 평가하는 long-term memory benchmark STALE 제안
incident 1 posts
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
industry 4 posts
ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities
이전 공개했던 모델(Chat QA 1.5)을 LLaMA3-70B의 context length 확장하면서 instruction following / RAG capability 향상시키는 방법 제시
Enhancing HNSW Index for Real-Time Updates: Addressing Unreachable Points and Performance Degradation
unreachable points phenomenon을 완화하는 HNSW 기반의 MN-RU(Mutual Neighbor-Replaced Update) 알고리즘 제안
RouteLLM: Learning to Route LLMs with Preference Data
비용 절감을 위한 LLM routing 방법 제안
DocLLM: A layout-aware generative language model for multimodal document understanding
multi-modal LLM에서 착안, LM이 text와 (정형화된 document 내에서 ) 위치정보를 input으로 받도록 하여 internal structured document understanding 문제 해결
infra 3 posts
Private 운영 — RTX 3090 persistence 끊김 처방
This post will be published soon.
Private 지식 — 중복 실행 incident
This post will be published soon.
Private 지식 — scorer 사용법
This post will be published soon.
interject 4 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
interpretability 6 posts
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
Safety Layers of Aligned Large Language Models: The Key to LLM Security
다양한 Aligned LLM의 내부 파라미터에 safety layer가 존재하는 것을 확인. safety layer는 악의적인 사용자 질의를 식별하고 또 거부하는 역할을 수행. 이를 바탕으로 safety를 유지하는 Finetuning 방법론 SPPFT 제안.
The Probabilities Also Matter: A More Faithful Metric for Faithfulness of Free-Text Explanations in Large Language Models
Counterfactural input에 간섭을 추가하는 방법으로 faithfulness 측정할 때 LM output 확률분포를 고려하는 Correlational Counterfactural Test(CCT) 제안
Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2
LM (Gemma 2) interpretability를 위한 Gemma Scope suite 공개에 따른 technical Report
Jumping Ahead: Improving Reconstruction Fidelity with JumpReLU Sparse Autoencoders
기존 vanilla ReLU를 jumpReLU라는 비연속 activation으로 대체하여 새로운 SAE (sparse autoencodesr) SOTA, 비연속적인 activation 사용하지만 straight-through estimator로 효과적으로 학습
Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet
Claude3-sonet의 중간 layer에서 나온 Residual stream로 Sparse Auto-encoder (SAE) 학습, SAE와 그 feature vector 활용하여 해석 가능한 수준의 특성 확인가능.
intervention 1 posts
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
kakaotalk 1 posts
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
kanana 37 posts
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
Private [log-23] 실험 마무리
This post will be published soon.
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
Private respond + LaaJ 운영 기록 (Kanana 본 실행 + 5/01·5/11 judge 회차)
This post will be published soon.
[log-20] 감정분류 — 4모델 최종 결과
평균 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% > Kanana 20%. 모델이 감정 레이블 별 정확도 성능이 다르다: Kanana 는 “정” 56%, HCX 는 “중립” 75%, Qwen 은 “분노” 72%에서 강점, MiniCPM 은 상...
Private 운영 — RTX 3090 persistence 끊김 처방
This post will be published soon.
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
Private 감정 — Qwen flash redo
This post will be published soon.
[log-18] 감정분류 — 비교 모델 3종 추론 완료 + Kanana 진행 중
비교 모델 3종(HCX/Qwen/MiniCPM) 추론이 56/56 끝나서 4 모델 × 4 input variant 매트릭스가 완성됐다. Kanana 만 quota 일중단으로 17/56 부분 진행. 종합 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% ...
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
Private Research Proposal — Modality Gap
This post will be published soon.
Private 감정 — log-17 분리
This post will be published soon.
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
Private 감정 — 디버깅·smoke
This post will be published soon.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
[log-15] 감정 — 데이터 준비 (KoED 재샘플링 + 톤 매핑)
KoED에서 6축 56샘플 재샘플링 + Kanana TTS로 감정 톤 오디오 아티팩트 생성.
[log-14] 감정 — 설계 (RQ3 · 과제 · 데이터 구성)
공감 대화 벤치마크 실험(감정분류, 감정응답) 설계 과정 정리. 감정 음성 데이터 확보 → Kanana TTS 감정 톤 제어 확인 → 과제 설계.
[log-13] 지식 — 완료 (60/60)
지식 실험 완료 (60/60). API 쿼터를 추가로 받아 남은 6문제를 한 번에 처리했다. 에러 처리 방식을 변경하여 과거 로그 수치도 소급 수정했다.
[log-12] 지식 — 진행 (54/60, audio 에러 없음)
6개 남음. 오늘 audio 에러 없음.
[log-11] 지식 — 진행 (48/60, audio 에러 누적 3건)
전반적으로 낮은 성능. audio 에러 3건째.
[log-10] 지식 — 4모델 중간 비교 (Kanana 36/60)
4개 omni 모델의 지식 실험 중간 결과(Kanana 36/60)와 그 안에서 보이는 패턴들 정리.
Private 지식 — 중복 실행 incident
This post will be published soon.
[log-09] 지식 — 모달리티 상보성 관찰 (42/60)
누적 42/60. 오늘 6문제 (History 4, Law 2). 에러 없음.
[log-08] 지식 — 비교 모델 분석 방법 정리
지식 실험 비교 모델 분석 방법론 정리. RQ 재배치 반영.
Private 지식 — scorer 사용법
This post will be published soon.
[log-07] 지식 — 진행 (36/60, audio 에러 2건)
누적 36/60. 오늘 6문제 (2배치). Law-549, Korean-History-071 audio 에러.
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
[log-04] 지식 — 3모달 양극화 (24/60)
누적 24/60. image·audio 성능이 매우 낮음.
[log-03] 지식 — 진행 (18/60)
text가 오늘 ④만 골랐다.
[log-02] 문헌 조사
문헌 조사: Modality Gap in Omni-modal LLMs
[log-01] 지식 — 벤치마크 선택 (KMMLU, 12/60)
지식 실험 벤치마크 선정 + 1일차 결과 (12문제).
[log-00] 연구 개요 + 실험 설계
Kanana-o Modality Gap Study
kmmlu 12 posts
[log-13] 지식 — 완료 (60/60)
지식 실험 완료 (60/60). API 쿼터를 추가로 받아 남은 6문제를 한 번에 처리했다. 에러 처리 방식을 변경하여 과거 로그 수치도 소급 수정했다.
[log-12] 지식 — 진행 (54/60, audio 에러 없음)
6개 남음. 오늘 audio 에러 없음.
[log-11] 지식 — 진행 (48/60, audio 에러 누적 3건)
전반적으로 낮은 성능. audio 에러 3건째.
[log-10] 지식 — 4모델 중간 비교 (Kanana 36/60)
4개 omni 모델의 지식 실험 중간 결과(Kanana 36/60)와 그 안에서 보이는 패턴들 정리.
[log-09] 지식 — 모달리티 상보성 관찰 (42/60)
누적 42/60. 오늘 6문제 (History 4, Law 2). 에러 없음.
[log-08] 지식 — 비교 모델 분석 방법 정리
지식 실험 비교 모델 분석 방법론 정리. RQ 재배치 반영.
[log-07] 지식 — 진행 (36/60, audio 에러 2건)
누적 36/60. 오늘 6문제 (2배치). Law-549, Korean-History-071 audio 에러.
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
[log-04] 지식 — 3모달 양극화 (24/60)
누적 24/60. image·audio 성능이 매우 낮음.
[log-03] 지식 — 진행 (18/60)
text가 오늘 ④만 골랐다.
[log-00] 연구 개요 + 실험 설계
Kanana-o Modality Gap Study
knowledge 2 posts
Private 지식 — 중복 실행 incident
This post will be published soon.
Private 지식 — scorer 사용법
This post will be published soon.
knowledge-conflicts 5 posts
When Personalization Misleads: Understanding and Mitigating Hallucinations in Personalized LLMs
Personalization은 단순히 user-aligned bias가 아니라 factual representation과 entangle되면서 체계적인 hallucination을 만든다는 사실을 representation level에서 밝히고 inference-time에서 이를 제...
The FACTS Grounding Leaderboard: Benchmarking LLMs’ Ability to Ground Responses to Long-Form Input
long input에 대한 response의 사실성 평가 벤치마크 제안. 최대 32K token의 입력 처리, 자동 평가 프레임워크 공개
Real-time Fake News from Adversarial Feedback
LLM의 fake news를 더 잘 생성하게 하는 방법. 학습 이후 발생되는 사건의 fake news 탐지를 위해, adversarial iterative fake news 생성 파이프라인 제안
Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAG Noise in Large Language Models
LLM의 RAG 상황에서 다양한 Noise를 구분하고 분석. 유익한 Noise의 경우 모델 성능이 향상된다는 것을 확인. 벤치마크 NoiserBench를 제시하여 LLM의 Noise 대응 평가 및 유익한 noise는 활용하고 해로운 noise는 줄이는 방법 제시.
Having Beer after Prayer? Measuring Cultural Bias in Large Language Models
아랍-서구문화가 대조되는 entity와 natural occurring prompt 구성된 데이터셋 CAMeL을 제안하고, 이를 통해 사례연구한 결과 LLM이 서구문화권 entity에 편향되어 있음에 대한 우려
knowledge-editing 3 posts
Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice
unlearning이 genAI를 통제할 수 있는 범용 solution이 못된다
Counterfactual Generation from Language Models
LM intervention의 영향 정량화 시도
Deductive Closure Training of Language Models for Coherence, Accuracy, and Updatability
standard LM training에 특정 text를 생성하도록 학습시킨다고 해서 그 text의 implies(함의)에 해당하는 text들의 probability가 높아지는 것은 아님. factuality 측면에서 관련 fact set (text)에도 높은 확률을 assign하기...
knowledge-graph 1 posts
Knowing When to Ask - Bridging Large Language Models and Data
Data Commons (knowledge Graph)를 활용하여 LLM 응답의 사실성과 신뢰성을 향상시켜 LLM과 실제 데이터 간의 격차 해소하는 DataGemma 소개
korean 1 posts
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
korean-bias 1 posts
Private exp_d 설계 — KMMLU 실험 영어 데이터로 재현
This post will be published soon.
laaj 3 posts
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
Private respond + LaaJ 운영 기록 (Kanana 본 실행 + 5/01·5/11 judge 회차)
This post will be published soon.
language-modeling 30 posts
Counterfactual Generation from Language Models
LM intervention의 영향 정량화 시도
MoEE: Your Mixture-of-Experts LLM Is Secretly an Embedding Model For Free
MoE LLM의 router weight를 활용하면 별도 추가 학습 없이 decoder-style LLM에서도 괜찮은 representation (embedding) 뽑을 수 있다.
LC-LLM RAG: Long-Context LLMs Meet RAG
LC-LLM을 RAG에서 쓸 때, (1) context 순서를 잘 주고 (2) RAG 느낌을 튜닝시켜주고 (3) 명시적으로 relevant 여부를 판단하도록 reasoning step 주면 더 잘한다.
Differential Transformer
Q/K를 각각 두 그룹으로 나누어 2개의 softmax attention map간 차이를 계산, relevant context에 대한 attention을 키우고 노이즈는 제거하는 방식의 transformers 변형 제안, hallucination 개선
Selective Attention Improves Transformer
attention 연산에서 파라미터 변경 없이, 생성된 token이 다른 token이 더이상 필요 없다고 결정할 수 있도록 처리, 미래 시점에서는 해당 token이 불필요하다고 판단했던 token들에 대한 attention을 줄이는 방법으로 효과적으로 메모리 사용량과 계산 비용을 ...
Theory, Analysis, and Best Practices for Sigmoid Self-Attention
Softmax를 Sigmoid와 상수 bias (sequence length기반)로 대체하는 등의 방식으로 attention 연산 속도를 18%가량 향상시킨 FLASHSIGMOID 제안
Training Language Models on the Knowledge Graph: Insights on Hallucinations and Their Detectability
모델 사이즈가 크고 학습 시간이 길수록 hallucination이 덜 발생하는 건 맞지만, 이를 5%이하의 낮은 수준으로 줄이려면 (일반적으로 알려진 scaling law보다) 훨씬 더 큰 모델과 더 많은 컴퓨팅 자원이 필요하다.
Having Beer after Prayer? Measuring Cultural Bias in Large Language Models
아랍-서구문화가 대조되는 entity와 natural occurring prompt 구성된 데이터셋 CAMeL을 제안하고, 이를 통해 사례연구한 결과 LLM이 서구문화권 entity에 편향되어 있음에 대한 우려
Retrieval Augmented Generation or Long-Context LLMs? A Comprehensive Study and Hybrid Approach
(1) RAG vs. Long-context LLM에 대해, 자원만 충분하다면 결과적으로는 LC LLM이 더 좋은 성능을 보였으나, (2) 비용 측면의 효율을 위해 RAG로 routing하는 approach, Self-Route 제안
ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities
이전 공개했던 모델(Chat QA 1.5)을 LLaMA3-70B의 context length 확장하면서 instruction following / RAG capability 향상시키는 방법 제시
Be like a Goldfish, Don’t Memorize! Mitigating Memorization in Generative LLMs
causal language modeling objective 대신 Goldfish Loss 제안, 암기대로 생성해내는 방식 완화
Fishing for Magikarp: Automatically Detecting Under-trained Tokens in Large Language Models
LLM에게 학습 덜 된 토큰 자동 감지기술 제안
Better & Faster Large Language Models via Multi-token Prediction
한 번에 1개가 아닌 multi-token prediction을 학습하면 모델 성능이 더 좋다고. 4-token prediction을 학습한 LM이 배치가 큰 경우에도 최대 3배 추론 속도 향상 가능.
Chinchilla Scaling: A replication attempt
Chinchilla scaling law 재현이 잘 안된다
Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance
LLM에게 적당히 예의바르게 쿼리하면 더 좋은 성능이 나온다는 empirical study.
Generative Representational Instruction Tuning
text embedding과 generation 통합하는 Generative Representational Instruction Tuning 제안. 단일모델인 GritLM은 embedding(MTEB) 및 generation task(BBH...)에서 모두 SoTA를 달성.
Chain-of-Thought Reasoning Without Prompting
LLM의 decoding을 greedy decoding에서 top-k decoding으로 바꾸면 prompt 없이도 CoT reasoning 유도 가능
Specialized Language Models with Cheap Inference from Limited Domain Data
1) generic pretraining cost 2) domain-specific pretraining cost 3) inference cost 4) size of specific domain training set 네가지 제약조건 하에서 가장 효율적인 학습에 대한 emperic...
Orion-14B: Open-source Multilingual Large Language Models
한국어 포함 동아시아권 언어를 중심으로 학습된 multilingual model 공개. Vocab 사이즈도 상대적이지만 결코 작지 않고, 실제 성능도 훌륭한 수준.
Infini-gram: Scaling Unbounded n-gram Language Models to a Trillion Tokens
∞-n과 조단위 token corpus로 n-gram 쿼리를 효율적으로 처리하는 infini-gram 공개
Deductive Closure Training of Language Models for Coherence, Accuracy, and Updatability
standard LM training에 특정 text를 생성하도록 학습시킨다고 해서 그 text의 implies(함의)에 해당하는 text들의 probability가 높아지는 것은 아님. factuality 측면에서 관련 fact set (text)에도 높은 확률을 assign하기...
Narrowing the Knowledge Evaluation Gap: Open-Domain Question Answering with Multi-Granularity Answers
ODQA에서 모델 response를 더 세분화된 수준으로 나눠서 정확성 및 정보성 측면에서 평가할 수 있는 GRANOLA QA 벤치마크 공개 및 그 세분화된 정보성을 확보하기 위한 디코딩 방식 DRAG 제안
Bootstrapping LLM-based Task-Oriented Dialogue Agents via Self-Talk
LM이 Self-Talk를 통해 training 데이터를 생성>정제>SFT에 활용 (bootstrapping). 이 과정에서 병목을 해소하기 위해 대화성공 여부를 측정하는 automatic metric 제안
Blending is All You Need
여러 개의 작은 모델을 Blend해서 하나의 큰 모델과 비슷한 혹은 더 나은 성능을 낼 수 있다.
LLaMA Pro: Progressive LLaMA with Block Expansion
새로 추가한 블록의 매개변수만 도메인 데이터로 업데이트하는 post-pretraining 방식의 block expansion이 domain-specific task에 특히 유용하다고 제안. 전체를 finetuning할 때 발생되는 망각이 일어나지 않는다고. 동일 데이터 사용을 전제...
LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression
sLLM(GPT2-small, LLaMA-7B, etc. )으로 프롬프트에서 불필요한 토큰을 식별>제거(압축), LLM의 성능 손실을 최소화하면서 최대 20배의 압축 달성 가능
Scaling Transformer to 1M tokens and beyond with RMT
RMT(Recurrent Memory Transformer) retains information across up to 2 million tokens!
What Language Model Architecture and Pretraining Objective Work Best for Zero-Shot Generalization?
Causal decoder-only models trained on an autoregressive language modeling objective(standard FLM objective) exhibit the strongest zero-shot generalization w/...
LLaMA : Open and Efficient Foundation Language Models
10배 더 적은 파라미터(13B)로 GPT-3 175B 대비 거의 모든 벤치마크에서 더 나은 성능 달성.
listing 1 posts
Private site publish state — 5 case + listing 축 정리
This post will be published soon.
literature-review 1 posts
[log-02] 문헌 조사
문헌 조사: Modality Gap in Omni-modal LLMs
llm 1 posts
TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models
시계열 추론을 위한 포괄적 benchmark TSR-Suite와 SFT+RL 2단계 학습 기반의 통합 추론 모델 TimeOmni-1을 제안, GPT-4.1 대비 causal discovery 정확도 +40.6% 달성
llm-as-a-judge 5 posts
Cooper: Co-Optimizing Policy and Reward Models in Reinforcement Learning for Large Language Models
policy와 reference-based RM (verifyRM) 을 동시에 update하는 RL framework COOPER 제안. reward hacking을 막기 위해 rule-based positives와 LLM-generated negatives를 활용한 contras...
RefCritic: Training Long Chain-of-Thought Critic Models with Refinement Feedback
해답의 정확성 및 개선 기여 피드백을 모두 평가하는 dual-reward RL-trained critic model을 도입한 RefCritic 제안, 수리 추론 과제에서 큰 성능 향상
Scaling Laws of Synthetic Data for Language Models
SYNTHLLM 방식으로 생성한 합성데이터는 LLM finetuning에 대해 예측 가능하고 효과적으로 scale 되고, 수정한 scaling law에 따라 natural data 부족에 대한 확장가능한 솔루션이 된다고 주장
Learning to Plan & Reason for Evaluation with Thinking-LLM-as-a-Judge
사전에 평가 기준을 제공하지 않고, 자체적으로 평가 계획-실행-판단을 분리하여 수행하는 Self-training loop의 thinking-llm-as-a-judge framework 제안, 적은 데이터로도 SOTA 성능달성
LLM Evaluators Recognize and Favor Their Own Generations
LLM은 자기가 만든 결과를 선호한다는 기존 주장에 대한 심층 논의 (결론: 실제 그렇다)
long-context 9 posts
LightMem: Lightweight and Efficient Memory-Augmented Generation
sensory > topic-aware short-term > sleep-time long-term memory 업데이트의 3단계 메모리 구조 제안, LongMemEval 정확도 향상 및 token/API call/runtime 비용 대폭 축소 확인
MultiChallenge: A Realistic Multi-Turn Conversation Evaluation Benchmark Challenging to Frontier LLMs
multi-turn setup에서의 난제 4가지 (Instruction Retention, Inference Memory, Reliable Versioned Editing, Self-Coherence)를 평가하는 벤치마크 제안, 기존 벤치마크에 성공하는 최신 SOTA 모델들도 제안...
LongLLaDA: Unlocking Long Context Capabilities in Diffusion LLMs
훈련할 때 본 context length를 넘어서도 Diffusion-based LLM의 "local perception" 덕분에 안정적 성능을 달성하는 LongLLaDA 제안. NTK 기반 RoPE extrapolation으로 Diffusion-based LLM의 input le...
A Human-Inspired Reading Agent with Gist Memory of Very Long Contexts
gist memory와 interactive look-up적용하여 LLM이 사람처럼 필요한 부분만 다시 검색하는 등의 방식으로 최대 20배 더 긴 context를 처리할 수 있는 prompting 시스템으로 성능을 향상시키는 방법론 제안
Inference Scaling for Long-Context Retrieval Augmented Generation
LM의 RAG inference 성능 향상을 위한 scaling 전략을 제안하고, 유효 컨텍스트 길이의 규모와 RAG 성능 간에 선형적인 관계가 있음을 확인
LC-LLM RAG: Long-Context LLMs Meet RAG
LC-LLM을 RAG에서 쓸 때, (1) context 순서를 잘 주고 (2) RAG 느낌을 튜닝시켜주고 (3) 명시적으로 relevant 여부를 판단하도록 reasoning step 주면 더 잘한다.
Differential Transformer
Q/K를 각각 두 그룹으로 나누어 2개의 softmax attention map간 차이를 계산, relevant context에 대한 attention을 키우고 노이즈는 제거하는 방식의 transformers 변형 제안, hallucination 개선
NeedleBench: Can LLMs Do Retrieval and Reasoning in 1 Million Context Window?
(1) 여러 길이의 interval (2) 다양한 depth range를 가진 (3) 점진적으로 어려워지는 (4) 2 언어(영문/중문)의 long context 능력을 평가하는 NeedleBench 제안 및 다양한 모델로 평가 결과 리포트
LongRAG: Enhancing Retrieval-Augmented Generation with Long-context LLMs
검색 단위가 긴 경우 추출되는 단위 수를 대폭 줄이기 위한 long retriever + long reader제안
long-horizon 3 posts
Memex(RL): Scaling Long-Horizon LLM Agents via Indexed Experience Memory
Long-horizon LLM agents의 context window bottleneck 해결을 위해, 구조화된 메모리 시스템 Indexed Experience Memory와 이를 학습하는 MemexRL 제안
MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks
multi-session + interdependent subtask 환경의 Memory-Agent-Environment loop를 평가하는 benchmark를 제안하고, 기존 memory system이 실제 agentic setting에서 매우 취약함을 실증
Beyond Entangled Planning: Task-Decoupled Planning for Long-Horizon Agents
long-horizon task에서 발생하는 planning 실패의 핵심 원인을 entanglement로 규정, 이를 subtask 단위로 분리된 DAG 기반 planning으로 해결하는 것을 제안, 성능 향상 및 토큰 절감에서 유의
lrm 2 posts
The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
LRM이 think하는 것처럼 보여도, 복잡도가 높으면 실패하거나 추론도 비효율적으로(=덜) 하는 경우가 많아, 진정한 일반화 추론 성능은 부족하다.
The Danger of Overthinking: Examining the Reasoning-Action Dilemma in Agentic Tasks
LRMs이 overthinking하게 되면 agentic 환경과 제대로 상호작용하지 못하는 Reasoning-Action Dilemma가 발생되고, 이는 성능 하락을 초래한다는 결과 보고
lvlm 1 posts
Slow Perception: Let’s Perceive Geometric Figures Step-by-step
기하 문제 풀이에 있어서 모델이 천천히 보게 하는게 성능 향상에 도움이 된다.
memory 15 posts
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
Coding agent의 self-evolving memory를 domain 내부 말고도 그 밖에 있는 domain 간 transfer 하자; 추상도가 높은 Insight 형태의 meta-knowledge가 cross-domain에서 일관된 성능 향상을 만든다.
ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models
LLM agent의 explicit recall이 아닌 implicit memory (자동화된 행동 적응)를 평가하는 최초의 benchmark를 제안하고, 17개 모델 모두 인간 baseline에 크게 못 미침을 실증
Memex(RL): Scaling Long-Horizon LLM Agents via Indexed Experience Memory
Long-horizon LLM agents의 context window bottleneck 해결을 위해, 구조화된 메모리 시스템 Indexed Experience Memory와 이를 학습하는 MemexRL 제안
MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks
multi-session + interdependent subtask 환경의 Memory-Agent-Environment loop를 평가하는 benchmark를 제안하고, 기존 memory system이 실제 agentic setting에서 매우 취약함을 실증
MEM1: Learning to Synergize Memory and Reasoning for Efficient Long-Horizon Agents
memory consolidation과 reasoning을 하나의 internal state로 통합하도록 RL 학습하여 long-horizon task에서 거의 일정한 context size 유지하며 성능 향상
SimpleMem: Efficient Lifelong Memory for LLM Agents
LLM Agent의 LTM을 semantic lossless compression으로 재정의하고, write-time 구조화·online synthesis·intent-aware retrieval로 성능과 토큰 효율(최대 30배)을 개선한 메모리 프레임워크 제안
Learning User Preferences Through Interaction for Long-Term Collaboration
multi-turn interaction에서 user의 explicit preference를 memory로 학습하면 단순 Recall-based memory보다 long-term collaboration(성공률/효율/user burden)이 유의하게 개선된다.
Adaptation of Agentic AI
agentic AI 연구에서 adaptation이라는 개념이 혼용되어왔고, 체계적인 시스템 수준 설계 및 비교를 가능하게 하기 위해 adaptation 대상(agent vs tool)과 adaptation을 유도하는 신호를 구분하는 분류 체계 제안
Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory
LLM Agent가 test-time에 과거 경험을 스스로 진화시키며 학습하는 능력을 평가하는 streaming benchmark Evo-Memory 제안, ExpRAG / ReMem 같은 baseline을 제안하여 경험 재사용 기반 성능 향상에 대한 비교 평가 기반 제시
General Agentic Memory via Deep Research
경량 memorizer와 full-page store + deep research로 Just-In-Time memory 프레임워크 제안, 기존 사전압축 (static) 메모리 대비 다양한 long-term + multi-hop 성능 향상 달성
HaluMem: Evaluating Hallucinations in Memory Systems of Agents
Agent memory system의 hallucination이 어디(extract > update > QA)에서 나타나는지 진단하는 벤치마크 제안
LightMem: Lightweight and Efficient Memory-Augmented Generation
sensory > topic-aware short-term > sleep-time long-term memory 업데이트의 3단계 메모리 구조 제안, LongMemEval 정확도 향상 및 token/API call/runtime 비용 대폭 축소 확인
MemBench: Towards More Comprehensive Evaluation on the Memory of LLM-based Agents
multi-scenario (participation & observation) + multi-level (factual & reflective) 메모리 유형 통합, multi-metric evaluation를 사용하는 LLM-based agent의 메모리를 평가하는 벤치마크인 M...
mia 1 posts
Detecting Training Data of Large Language Models via Expectation Maximization
Expectation-Maximization 알고리즘을 통해 멤버십 점수와 prefix 점수를 반복적으로 업데이트하여 더 나은 멤버십 추론을 수행하는 새로운 LLM용 MIA 방식 EM-MIA 제안
mid 1 posts
Do Large Language Model Understand Multi-Intent Spoken Language ?
SLU(Spoken Language Understanding)에 대한 LLM 활용 연구를 위한 LM-MixATIS, LM-MixSNIPS 벤치마크 및 metric 제안
minicpm 3 posts
Private 영어 지식 QA — HCX/MiniCPM26 batch
This post will be published soon.
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
mllm 1 posts
Honeybee: Locality-enhanced Projector for Multimodal LLM
MLLM에서 vision encoder와 LLM 사이의 visual projector가 핵심 병목임을 분석, visual token flexibility와 locality preservation을 동시에 만족하는 Honeybee projector를 제안
modality-gap 9 posts
Private [log-23] 실험 마무리
This post will be published soon.
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
Private exp_d 6모델 셋업 + skel 진입
This post will be published soon.
[log-20] 감정분류 — 4모델 최종 결과
평균 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% > Kanana 20%. 모델이 감정 레이블 별 정확도 성능이 다르다: Kanana 는 “정” 56%, HCX 는 “중립” 75%, Qwen 은 “분노” 72%에서 강점, MiniCPM 은 상...
Private exp_d 설계 — KMMLU 실험 영어 데이터로 재현
This post will be published soon.
Private Research Proposal — Modality Gap
This post will be published soon.
[log-10] 지식 — 4모델 중간 비교 (Kanana 36/60)
4개 omni 모델의 지식 실험 중간 결과(Kanana 36/60)와 그 안에서 보이는 패턴들 정리.
[log-02] 문헌 조사
문헌 조사: Modality Gap in Omni-modal LLMs
modality-preference 1 posts
Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
OLLM은 기존 VLM의 text-dominance와 달리 vision을 선호하고 audio를 체계적으로 무시하며, 이 modality preference는 mid-to-late layer에서 emergent하게 형성되고, 이를 layer-wise linear probe로 추적해 ...
moe 1 posts
MoEE: Your Mixture-of-Experts LLM Is Secretly an Embedding Model For Free
MoE LLM의 router weight를 활용하면 별도 추가 학습 없이 decoder-style LLM에서도 괜찮은 representation (embedding) 뽑을 수 있다.
multi-agent 4 posts
Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate
multi-agent debate를 단일 LLM의 latent space로 distill하는 IMAD을 제안하고, 내부적으로 형성되는 agent subspace를 activation steering으로 식별·제어
General Agentic Memory via Deep Research
경량 memorizer와 full-page store + deep research로 Just-In-Time memory 프레임워크 제안, 기존 사전압축 (static) 메모리 대비 다양한 long-term + multi-hop 성능 향상 달성
Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems
Meta info. Authors: Bang Liu, Xinfeng Li, Jiayi Zhang, Jinlin Wang, Tanjin He, Sirui Hong, Hongzhang Liu, Shaokun Zhang, Kaitao Song, Kunlun Zhu, Y...
MultiAgentBench: Evaluating the Collaboration and Competition of LLM agents
협업적/경쟁적 상황에서 에이전트끼리 상호작용하는 시스템 평가에 대한 벤치마크 MARBLE 제안
multi-linguality 4 posts
Babel: Open Multilingual Large Language Models Serving Over 90% of Global Speakers
오픈소스 다국어 LLM Babel 시리즈 공개
Having Beer after Prayer? Measuring Cultural Bias in Large Language Models
아랍-서구문화가 대조되는 entity와 natural occurring prompt 구성된 데이터셋 CAMeL을 제안하고, 이를 통해 사례연구한 결과 LLM이 서구문화권 entity에 편향되어 있음에 대한 우려
Word Translation Without Parallel Data
(token) Embedding Alignment 를 통한 x-lingual translation 성능 향상
Orion-14B: Open-source Multilingual Large Language Models
한국어 포함 동아시아권 언어를 중심으로 학습된 multilingual model 공개. Vocab 사이즈도 상대적이지만 결코 작지 않고, 실제 성능도 훌륭한 수준.
multi-modal 1 posts
Is the Modality Gap a Bug or a Feature? A Robustness Perspective
CLIP 계열 multi-modal contrastive model의 modality gap이 robustness를 저하시키는 bug라는 프레이밍을 이론적으로 증명, clean accuracy 손실 없이 robustness를 개선하는 post-processing 알고리즘 제안
multi-modality 5 posts
Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
OLLM은 기존 VLM의 text-dominance와 달리 vision을 선호하고 audio를 체계적으로 무시하며, 이 modality preference는 mid-to-late layer에서 emergent하게 형성되고, 이를 layer-wise linear probe로 추적해 ...
Honeybee: Locality-enhanced Projector for Multimodal LLM
MLLM에서 vision encoder와 LLM 사이의 visual projector가 핵심 병목임을 분석, visual token flexibility와 locality preservation을 동시에 만족하는 Honeybee projector를 제안
DeepPerception: Advancing R1-like Cognitive Visual Perception in MLLMs for Knowledge-Intensive Visual Grounding
MLLMs가 cognitive visual reasoning 하도록 학습하는 DeepPerception 제안+ Knowledge-Intensive Visual Grounding task 소개 (+ KVG-Bench 공개)
Slow Perception: Let’s Perceive Geometric Figures Step-by-step
기하 문제 풀이에 있어서 모델이 천천히 보게 하는게 성능 향상에 도움이 된다.
ReALM: Reference Resolution As Language Modeling
Pipeline style로 reference resolution에 대해 finetune된 작은 모델(ReALM)로 해결 시도
multi-party 1 posts
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
multi-turn 2 posts
Synthetic Users, Real Differences: an Evaluation Framework for User Simulation in Multi-Turn Conversations
real vs simulated 대화를 8개 dimension의 distribution 차이로 비교하는 realsim framework를 제안, LLM 기반 user simulator가 communication friction을 잘 못 재현해 chatbot 평가가 over-opti...
Flipping the Dialogue: Training and Evaluating User Language Models
Assistant용 LM을 user처럼 역할 지시해 시뮬레이션하는 기존 방식은 본질적으로 비현실적이며, 실제 human user 행동을 학습한 UserLM이 훨씬 더 자연스러운 multi-turn user behavior를 재현해 assistant 성능의 진짜 한계를 드러낸다.
multimodal 19 posts
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
[log-15] 감정 — 데이터 준비 (KoED 재샘플링 + 톤 매핑)
KoED에서 6축 56샘플 재샘플링 + Kanana TTS로 감정 톤 오디오 아티팩트 생성.
[log-14] 감정 — 설계 (RQ3 · 과제 · 데이터 구성)
공감 대화 벤치마크 실험(감정분류, 감정응답) 설계 과정 정리. 감정 음성 데이터 확보 → Kanana TTS 감정 톤 제어 확인 → 과제 설계.
[log-13] 지식 — 완료 (60/60)
지식 실험 완료 (60/60). API 쿼터를 추가로 받아 남은 6문제를 한 번에 처리했다. 에러 처리 방식을 변경하여 과거 로그 수치도 소급 수정했다.
[log-12] 지식 — 진행 (54/60, audio 에러 없음)
6개 남음. 오늘 audio 에러 없음.
[log-11] 지식 — 진행 (48/60, audio 에러 누적 3건)
전반적으로 낮은 성능. audio 에러 3건째.
[log-10] 지식 — 4모델 중간 비교 (Kanana 36/60)
4개 omni 모델의 지식 실험 중간 결과(Kanana 36/60)와 그 안에서 보이는 패턴들 정리.
[log-09] 지식 — 모달리티 상보성 관찰 (42/60)
누적 42/60. 오늘 6문제 (History 4, Law 2). 에러 없음.
[log-08] 지식 — 비교 모델 분석 방법 정리
지식 실험 비교 모델 분석 방법론 정리. RQ 재배치 반영.
[log-07] 지식 — 진행 (36/60, audio 에러 2건)
누적 36/60. 오늘 6문제 (2배치). Law-549, Korean-History-071 audio 에러.
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
[log-04] 지식 — 3모달 양극화 (24/60)
누적 24/60. image·audio 성능이 매우 낮음.
[log-03] 지식 — 진행 (18/60)
text가 오늘 ④만 골랐다.
[log-02] 문헌 조사
문헌 조사: Modality Gap in Omni-modal LLMs
[log-01] 지식 — 벤치마크 선택 (KMMLU, 12/60)
지식 실험 벤치마크 선정 + 1일차 결과 (12문제).
[log-00] 연구 개요 + 실험 설계
Kanana-o Modality Gap Study
note 8 posts
Private site publish state — 5 case + listing 축 정리
This post will be published soon.
Private 감정 — Qwen flash redo
This post will be published soon.
Private Research Proposal — Modality Gap
This post will be published soon.
Private 감정 — log-17 분리
This post will be published soon.
Private 감정 — 진행 상태
This post will be published soon.
Private tmux note
This post will be published soon.
Private 감정 — 디버깅·smoke
This post will be published soon.
Private telegram for claude code
This post will be published soon.
observer 1 posts
H2HMem: A Multimodal Memory Benchmark for Agents in Human-Human Interactions
agent가 observer로서 human-human 대화를 관찰·기억하는 상황을 평가하는 multimodal, multi-session, multi-party 메모리 벤치마크 H2HMem 제안
observer-agent 4 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
odqa 5 posts
GraphRAG-R1: Graph Retrieval-Augmented Generation with Process-Constrained Reinforcement Learning
RL(GRPO)에 2가지 constrained reward(RPA + CAF) 적용하여 GraphRAG agent 학습 > 검색할 때 입력으로 triplet과 자연어 하이브리드 활용하여 multi-hop QA에서 큰 성능 향상 확인
SSRL: Self-Search Reinforcement Learning
검색엔진이나 다른 LLM 등 외부 tool 없이 검색을 Full-simulation해서 RL → real-world로 전이 가능한 self-search 모델 구축
ChatQA 2: Bridging the Gap to Proprietary LLMs in Long Context and RAG Capabilities
이전 공개했던 모델(Chat QA 1.5)을 LLaMA3-70B의 context length 확장하면서 instruction following / RAG capability 향상시키는 방법 제시
Narrowing the Knowledge Evaluation Gap: Open-Domain Question Answering with Multi-Granularity Answers
ODQA에서 모델 response를 더 세분화된 수준으로 나눠서 정확성 및 정보성 측면에서 평가할 수 있는 GRANOLA QA 벤치마크 공개 및 그 세분화된 정보성을 확보하기 위한 디코딩 방식 DRAG 제안
Question and Answer Test-Train Overlap in Open-Domain Question Answering Datasets
ODQA에서 자주 사용하는 벤치마크 NQ에 대한 비판적 시각을 담은 논문. 기존 벤치마크는 train에서 본 내용을 암기하는 역할을 테스트하는 것으로 보임.
omni 1 posts
[log-10] 지식 — 4모델 중간 비교 (Kanana 36/60)
4개 omni 모델의 지식 실험 중간 결과(Kanana 36/60)와 그 안에서 보이는 패턴들 정리.
omni-modal 1 posts
Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
OLLM은 기존 VLM의 text-dominance와 달리 vision을 선호하고 audio를 체계적으로 무시하며, 이 modality preference는 mid-to-late layer에서 emergent하게 형성되고, 이를 layer-wise linear probe로 추적해 ...
ops 7 posts
Private respond + LaaJ 운영 기록 (Kanana 본 실행 + 5/01·5/11 judge 회차)
This post will be published soon.
Private 운영 — RTX 3090 persistence 끊김 처방
This post will be published soon.
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
Private 감정 — Qwen flash redo
This post will be published soon.
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
Private 감정 — log-17 분리
This post will be published soon.
Private 감정 — 디버깅·smoke
This post will be published soon.
optimization 6 posts
Direct Multi-Turn Preference Optimization for Language Agents
Multi-turn 에서 RL Objectives를 직접 optimize하는 손실함수의 Direct Multi-Turn Preference Optimization (DMPO) 제안
Planning Like Human: A Dual-process Framework for Dialogue Planning
익숙한 상황을 처리하는 intuitive (fast) 정책 모델과 새로운 시나리오를 위한 analytical (slow)의 정책 모델을 상호 보완적으로 사용하는 이중 dialogue planning 프레임워크 제안
The boundary of neural network trainability is fractal
복잡한 반복 패턴인 Fractal 패턴이 AI 학습 프로세스(하이퍼파라미터)를 제어하는 setting에 나타난다.
MosaicBERT: A Bidirectional Encoder Optimized for Fast Pretraining
빠른 사전학습을 위한 BERT-style encoder의 architecture와 training 기법 소개.
UltraFastBERT : Exponentially Faster Language Modelling
FFNN을 FFF(Fast FeedForward)로 대체하여 x78의 속도 향상
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
비슷한 사이즈 Transformer 대비 5배 빠른 추론속도
paper 1 posts
Private [log-23] 실험 마무리
This post will be published soon.
papers 1 posts
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
parallel-sampling 1 posts
Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation
Tool-use에서 experiential knowledge를 획득·활성화·내재화 전 단계에 걸쳐 분석하고, instance-level trajectory + reasoning-width 확장(parallel sampling) + knowledge-aware training을 통합...
partial 1 posts
[log-18] 감정분류 — 비교 모델 3종 추론 완료 + Kanana 진행 중
비교 모델 3종(HCX/Qwen/MiniCPM) 추론이 56/56 끝나서 4 모델 × 4 input variant 매트릭스가 완성됐다. Kanana 만 quota 일중단으로 17/56 부분 진행. 종합 정답률은 MiniCPM 35% > Qwen 34% > HCX 22% ...
partial-observability 1 posts
Belief Memory: Agent Memory Under Partial Observability
기존 agent memory가 관측을 단일 deterministic 결론으로 저장해 self-reinforcing error를 일으킨다는 문제를 지적하고, 후보 결론들을 확률과 함께 유지하며 noisy-OR로 갱신하는 belief 기반 memory(BeliefMem)를 제안
pbrl 1 posts
Adversarial Policy Optimization for Offline Preference-based Reinforcement Learning
PbRL을 위한 적대적 선호기반 최적화 방법론 APPO 제안
peft 5 posts
Drag-and-Drop LLMs: Zero-Shot Prompt-to-Weights
prompt를 input으로, LoRA-tuend 파라미터를 output으로 하여 SFT하는 모델 DnD 제안. DnD를 한 번 학습 해두면 task마다 추가 학습 없이도 task-specific LoRA weight를 만들 수 있다.
Differential Transformer
Q/K를 각각 두 그룹으로 나누어 2개의 softmax attention map간 차이를 계산, relevant context에 대한 attention을 키우고 노이즈는 제거하는 방식의 transformers 변형 제안, hallucination 개선
Adaptive Retrieval-Augmented Generation for Conversational Systems
주어진 대화에서 전환시 외부 지식의 증강이 필요한지 여부를 선택적으로 결정하는 매커니즘 제안
Generative Representational Instruction Tuning
text embedding과 generation 통합하는 Generative Representational Instruction Tuning 제안. 단일모델인 GritLM은 embedding(MTEB) 및 generation task(BBH...)에서 모두 SoTA를 달성.
Specialized Language Models with Cheap Inference from Limited Domain Data
1) generic pretraining cost 2) domain-specific pretraining cost 3) inference cost 4) size of specific domain training set 네가지 제약조건 하에서 가장 효율적인 학습에 대한 emperic...
persona 1 posts
Persona Vectors: Monitoring and Controlling Character Traits in Language Models
LLM fine-tuning 전후 혹은 그 과정에서 personality trait shifts(아첨, 환각, 악의) 탐지/예측/완화하기 위해 persona vector를 자동으로 추출하고 적용하는 방법 제안
personalization 6 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Advancing and Benchmarking Personalized Tool Invocation for LLMs
Personalized Tool Invocation이라는 새 task(Tool Preference + Profile-dependent Query)를 정의하고, LLM 기반 데이터 합성 프레임워크 PTool과 첫 벤치마크 PTBench를 구축해 Qwen2.5-7B를 SFT만으로 개인...
When Personalization Misleads: Understanding and Mitigating Hallucinations in Personalized LLMs
Personalization은 단순히 user-aligned bias가 아니라 factual representation과 entangle되면서 체계적인 hallucination을 만든다는 사실을 representation level에서 밝히고 inference-time에서 이를 제...
A Survey on Personalized and Pluralistic Preference Alignment in Large Language Models
LLM에서의 개인화/다원적 선호 정렬을 training/test-time, 사용자 모델링 기반 방법으로 체계화, 평가 및 확장성 측면의 구조적 한계 확인
petl 6 posts
Divide-and-Conquer Meets Consensus: Unleashing the Power of Functions in Code Generation
Divide-and-Conquer 전략에 기능적 합의(functional consensus)를 접목한 CodeGen framework FUNCODER 제안
Selective Attention Improves Transformer
attention 연산에서 파라미터 변경 없이, 생성된 token이 다른 token이 더이상 필요 없다고 결정할 수 있도록 처리, 미래 시점에서는 해당 token이 불필요하다고 판단했던 token들에 대한 attention을 줄이는 방법으로 효과적으로 메모리 사용량과 계산 비용을 ...
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
Zero-Shot Cross-Domain Dialogue State Tracking via Dual Low-Rank Adaptation
multi-layer구조를 기반으로 한 transformer 계열 모델에서 prompt가 뒤쪽으로 갈수록 잊혀지는 문제를 완화하는 DualLoRA 제안
Specialized Language Models with Cheap Inference from Limited Domain Data
1) generic pretraining cost 2) domain-specific pretraining cost 3) inference cost 4) size of specific domain training set 네가지 제약조건 하에서 가장 효율적인 학습에 대한 emperic...
SliceGPT: Compress Large Language Models by Deleting Rows and Columns
weight matrtix를 더 고밀도의 작은 행렬로 slicing하는 방식의 새로운 post training sparsification 제안. 성능 drop은 1%~10% 내로 방어하면서 파라미터(embedding 포함)는 최대 25%까지 제거 가능.
plan 1 posts
Private [log-23] 실험 마무리
This post will be published soon.
planning 2 posts
SimpleMem: Efficient Lifelong Memory for LLM Agents
LLM Agent의 LTM을 semantic lossless compression으로 재정의하고, write-time 구조화·online synthesis·intent-aware retrieval로 성능과 토큰 효율(최대 30배)을 개선한 메모리 프레임워크 제안
Beyond Entangled Planning: Task-Decoupled Planning for Long-Horizon Agents
long-horizon task에서 발생하는 planning 실패의 핵심 원인을 entanglement로 규정, 이를 subtask 단위로 분리된 DAG 기반 planning으로 해결하는 것을 제안, 성능 향상 및 토큰 절감에서 유의
pomdp 1 posts
Belief Memory: Agent Memory Under Partial Observability
기존 agent memory가 관측을 단일 deterministic 결론으로 저장해 self-reinforcing error를 일으킨다는 문제를 지적하고, 후보 결론들을 확률과 함께 유지하며 noisy-OR로 갱신하는 belief 기반 memory(BeliefMem)를 제안
post-training 2 posts
Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate
multi-agent debate를 단일 LLM의 latent space로 distill하는 IMAD을 제안하고, 내부적으로 형성되는 agent subspace를 activation steering으로 식별·제어
Reasoning with Sampling: Your Base Model is Smarter Than You Think
추가 학습 없이 단순 MCMC 기반 샘플링만으로 LLM의 base model이 RL로 post-training된 모델 수준의 추론 능력 낼 수 있다.
ppo 1 posts
GraphRAG-R1: Graph Retrieval-Augmented Generation with Process-Constrained Reinforcement Learning
RL(GRPO)에 2가지 constrained reward(RPA + CAF) 적용하여 GraphRAG agent 학습 > 검색할 때 입력으로 triplet과 자연어 하이브리드 활용하여 multi-hop QA에서 큰 성능 향상 확인
preference 1 posts
Learning User Preferences Through Interaction for Long-Term Collaboration
multi-turn interaction에서 user의 explicit preference를 memory로 학습하면 단순 Recall-based memory보다 long-term collaboration(성공률/효율/user burden)이 유의하게 개선된다.
proactive 4 posts
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
카카오톡 채팅형 AI 서비스 비교 분석
카카오톡의 두 채팅형 AI(@ChatGPT, 카나나)를 두가지 축으로 구분, 연구적 발전 가능성 확인
probing 1 posts
Beyond Text-Dominance: Understanding Modality Preference of Omni-modal Large Language Models
OLLM은 기존 VLM의 text-dominance와 달리 vision을 선호하고 audio를 체계적으로 무시하며, 이 modality preference는 mid-to-late layer에서 emergent하게 형성되고, 이를 layer-wise linear probe로 추적해 ...
procedural-memory 1 posts
Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation
Tool-use에서 experiential knowledge를 획득·활성화·내재화 전 단계에 걸쳐 분석하고, instance-level trajectory + reasoning-width 확장(parallel sampling) + knowledge-aware training을 통합...
proj-dialogue 1 posts
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
later observation이 explicit 부정 없이 (상식 수준에서) 전이되는 속성간 관계를 통해 earlier memory를 무효화하는 Implicit Conflict를 정의하고 이를 평가하는 long-term memory benchmark STALE 제안
proj-memory 1 posts
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
later observation이 explicit 부정 없이 (상식 수준에서) 전이되는 속성간 관계를 통해 earlier memory를 무효화하는 Implicit Conflict를 정의하고 이를 평가하는 long-term memory benchmark STALE 제안
projector 1 posts
Honeybee: Locality-enhanced Projector for Multimodal LLM
MLLM에서 vision encoder와 LLM 사이의 visual projector가 핵심 병목임을 분석, visual token flexibility와 locality preservation을 동시에 만족하는 Honeybee projector를 제안
prompt-compression 2 posts
A Human-Inspired Reading Agent with Gist Memory of Very Long Contexts
gist memory와 interactive look-up적용하여 LLM이 사람처럼 필요한 부분만 다시 검색하는 등의 방식으로 최대 20배 더 긴 context를 처리할 수 있는 prompting 시스템으로 성능을 향상시키는 방법론 제안
LLMLingua-2: Data Distillation for Efficient and Faithful Task-Agnostic Prompt Compression
prompt compression을 token classification으로 formulate, encoder-based compressor 학습 제안 (Data Distillation)
prompting 10 posts
ReSpAct: Harmonizing Reasoning, Speaking, and Acting Towards Building Large Language Model-Based Conversational AI Agents
LLM-based agent에 reasoning, conversation, action 기능을 통합, 대화형 환경에서 역동적/협업적/context-aware한 task-solving을 가능하게 하는 ReSpAct 프레임워크 제안
Chain of Draft: Thinking Faster by Writing Less
필수적인 중간 추론만 최소한으로 생성, 토큰 사용과 추론 시간을 크게 줄이는 프롬프팅 방식 CoD 제안
CRAB: Constraint Back-translation Improves Complex Instruction Following of Large Language Models
제약조건을 재생성 (backtranslation) 시키면 제약조건을 더 잘 따르더라
Adaptive Retrieval-Augmented Generation for Conversational Systems
주어진 대화에서 전환시 외부 지식의 증강이 필요한지 여부를 선택적으로 결정하는 매커니즘 제안
Concise Thoughts: Impact of Output Length on LLM Reasoning and Cost
단순하게 prompt에 길이 제한을 걸어도 성능에 별 영향이 안가면서 효율적 추론 가능
SaySelf: Teaching LLMs to Express Confidence with Self-Reflective Rationales
자기 반성적(?) 근거와 다중 추론 chain으로 LLM에서 신뢰도 보정 오류를 30% 줄인다
Do Large Language Model Understand Multi-Intent Spoken Language ?
SLU(Spoken Language Understanding)에 대한 LLM 활용 연구를 위한 LM-MixATIS, LM-MixSNIPS 벤치마크 및 metric 제안
Self-Discover: Large Language Models Self-Compose Reasoning Structures
델이 여러 reasoning techniques(CoT, critical thinking, ...) 중에서 하나를 스스로 선택하여 task별로 적합한 추론 전략을 구성하도록 하는 프레임워크 제안. BBH에서 단순 CoT보다 성능이 좋고 CoT Self-consistency보다도 추...
Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance
LLM에게 적당히 예의바르게 쿼리하면 더 좋은 성능이 나온다는 empirical study.
LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression
sLLM(GPT2-small, LLaMA-7B, etc. )으로 프롬프트에서 불필요한 토큰을 식별>제거(압축), LLM의 성능 손실을 최소화하면서 최대 20배의 압축 달성 가능
prosody 1 posts
[log-17] 감정분류 — 비교 모델 3종 결과 분석
HCX·Qwen·MiniCPM 56샘플 × 4 variants 분류 본 배치 완료. 운율의 부분적 기여(MiniCPM emotion), HCX 디폴트-답 함정, parse_category 1글자 레이블 채점 오류 가능성 진단 등.
publish-state 1 posts
Private site publish state — 5 case + listing 축 정리
This post will be published soon.
qwen 2 posts
[log-06] 지식 — 비교 모델 전체셋(n=1100)으로 확장
비교 모델에 대해 전체 n=1100 실행
[log-05] 지식 — 베이스라인 첫 측정 (Kanana 30/60)
누적 30/60. 비교 모델 3개 실험 수행, 첫 4모델 비교.
rag 27 posts
SimpleMem: Efficient Lifelong Memory for LLM Agents
LLM Agent의 LTM을 semantic lossless compression으로 재정의하고, write-time 구조화·online synthesis·intent-aware retrieval로 성능과 토큰 효율(최대 30배)을 개선한 메모리 프레임워크 제안
LightMem: Lightweight and Efficient Memory-Augmented Generation
sensory > topic-aware short-term > sleep-time long-term memory 업데이트의 3단계 메모리 구조 제안, LongMemEval 정확도 향상 및 token/API call/runtime 비용 대폭 축소 확인
GraphRAG-R1: Graph Retrieval-Augmented Generation with Process-Constrained Reinforcement Learning
RL(GRPO)에 2가지 constrained reward(RPA + CAF) 적용하여 GraphRAG agent 학습 > 검색할 때 입력으로 triplet과 자연어 하이브리드 활용하여 multi-hop QA에서 큰 성능 향상 확인
A Human-Inspired Reading Agent with Gist Memory of Very Long Contexts
gist memory와 interactive look-up적용하여 LLM이 사람처럼 필요한 부분만 다시 검색하는 등의 방식으로 최대 20배 더 긴 context를 처리할 수 있는 prompting 시스템으로 성능을 향상시키는 방법론 제안
Inference Scaling for Long-Context Retrieval Augmented Generation
LM의 RAG inference 성능 향상을 위한 scaling 전략을 제안하고, 유효 컨텍스트 길이의 규모와 RAG 성능 간에 선형적인 관계가 있음을 확인
LC-LLM RAG: Long-Context LLMs Meet RAG
LC-LLM을 RAG에서 쓸 때, (1) context 순서를 잘 주고 (2) RAG 느낌을 튜닝시켜주고 (3) 명시적으로 relevant 여부를 판단하도록 reasoning step 주면 더 잘한다.
Knowing When to Ask - Bridging Large Language Models and Data
Data Commons (knowledge Graph)를 활용하여 LLM 응답의 사실성과 신뢰성을 향상시켜 LLM과 실제 데이터 간의 격차 해소하는 DataGemma 소개
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
Pandora’s Box or Aladdin’s Lamp: A Comprehensive Analysis Revealing the Role of RAG Noise in Large Language Models
LLM의 RAG 상황에서 다양한 Noise를 구분하고 분석. 유익한 Noise의 경우 모델 성능이 향상된다는 것을 확인. 벤치마크 NoiserBench를 제시하여 LLM의 Noise 대응 평가 및 유익한 noise는 활용하고 해로운 noise는 줄이는 방법 제시.
Adaptive Retrieval-Augmented Generation for Conversational Systems
주어진 대화에서 전환시 외부 지식의 증강이 필요한지 여부를 선택적으로 결정하는 매커니즘 제안
Retrieval Augmented Generation or Long-Context LLMs? A Comprehensive Study and Hybrid Approach
(1) RAG vs. Long-context LLM에 대해, 자원만 충분하다면 결과적으로는 LC LLM이 더 좋은 성능을 보였으나, (2) 비용 측면의 효율을 위해 RAG로 routing하는 approach, Self-Route 제안
RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework
다양한 문서 생성 + QA pair 구성하여 다양한 시나리오에서 LLM의 지식 사용 능력 평가하는 Framework 제안
LongRAG: Enhancing Retrieval-Augmented Generation with Long-context LLMs
검색 단위가 긴 경우 추출되는 단위 수를 대폭 줄이기 위한 long retriever + long reader제안
From RAGs to rich parameters: Probing how language models utilize external knowledge over parametric information for factual queries
LLM이 내부지식 패싱하고 외부지식(RAG context)만 사용하는 데에 강한 편향이 있다는 사실을 기계적으로(?) 추적
Multi-Head RAG: Solving Multi-Aspect Problems with LLMs
multi-head attention layer를 활용, 직관적인 multi-doc RAG 및 knowledge integration를 위한 retriever 연구
Retrieval Head Mechanistically Explains Long-Context Factuality
특정 attention head가 retrieval을 담당한다
RAGGED: Towards Informed Design of Retrieval Augmented Generation Systems
RAG의 다양한 setting 아래의 최적 대한 분석 (retriever type, reader model(=Generator), context selection등을 모두 고려)
Generative Representational Instruction Tuning
text embedding과 generation 통합하는 Generative Representational Instruction Tuning 제안. 단일모델인 GritLM은 embedding(MTEB) 및 generation task(BBH...)에서 모두 SoTA를 달성.
The Power of Noise: Redefining Retrieval for RAG Systems
RAG에서 Retrieval 에 집중하여, document와 prompt의 연관성, prompt에서 document의 위치와 수 등 다양한 요소를 평가.
CRUD-RAG: A Comprehensive Chinese Benchmark for Retrieval-Augmented Generation of Large Language Models
기존 RAG 벤치마크는 범위와 다양성이 제한되어 있고, 검색 요소(retriever)와 외부 KB의 영향을 고려하지 못하는 한계가 있다고 지적하며, RAG Application의 범위를 CRUD로 분류하고 각각에 대한 평가 task와 데이터셋 공개. (중국어)
Corrective Retrieval Augmented Generation
confidence score, web search, knowledge refinement로 잘못 찾아온, 혹은 최적이 아닌 결과를 self-correction하여 모델 생성 결과에 hallucination 감소
DocLLM: A layout-aware generative language model for multimodal document understanding
multi-modal LLM에서 착안, LM이 text와 (정형화된 document 내에서 ) 위치정보를 input으로 받도록 하여 internal structured document understanding 문제 해결
Making Large Language Models A Better Foundation For Dense Retrieval
Dense Retrieval을 위해 LLM adaptation (2-step template 적용)
LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression
sLLM(GPT2-small, LLaMA-7B, etc. )으로 프롬프트에서 불필요한 토큰을 식별>제거(압축), LLM의 성능 손실을 최소화하면서 최대 20배의 압축 달성 가능
REPLUG: Retrieval-Augmented Black-Box Language Models
언어 모델을 블랙박스로 취급하고 검색 구성요소를 잠재적으로 조정가능한 모듈로 추가하는 새로운 retrieval-Augmented LM 패러다임 제안
reasoning 19 posts
A Theoretical Study on Bridging Internal Probability and Self-Consistency for LLM Reasoning
Sampling-based test-time scaling의 첫 이론적 프레임워크를 제안하고, SC와 PPL의 한계를 분석하여 두 방법의 장점을 결합한 RPC를 제안
TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models
시계열 추론을 위한 포괄적 benchmark TSR-Suite와 SFT+RL 2단계 학습 기반의 통합 추론 모델 TimeOmni-1을 제안, GPT-4.1 대비 causal discovery 정확도 +40.6% 달성
MEM1: Learning to Synergize Memory and Reasoning for Efficient Long-Horizon Agents
memory consolidation과 reasoning을 하나의 internal state로 통합하도록 RL 학습하여 long-horizon task에서 거의 일정한 context size 유지하며 성능 향상
Beyond Entangled Planning: Task-Decoupled Planning for Long-Horizon Agents
long-horizon task에서 발생하는 planning 실패의 핵심 원인을 entanglement로 규정, 이를 subtask 단위로 분리된 DAG 기반 planning으로 해결하는 것을 제안, 성능 향상 및 토큰 절감에서 유의
WAIT, WAIT, WAIT… Why Do Reasoning Models Loop?
Reasoning 모델의 looping은 decoding artifact만이 아니라 learning errors가 greedy/low-temp에서 증폭되며 발생, temperature는 loop를 줄이지만 근본 원인을 고치지 못해 불필요하게 긴 CoT를 생성한다.
Reasoning with Sampling: Your Base Model is Smarter Than You Think
추가 학습 없이 단순 MCMC 기반 샘플링만으로 LLM의 base model이 RL로 post-training된 모델 수준의 추론 능력 낼 수 있다.
SSRL: Self-Search Reinforcement Learning
검색엔진이나 다른 LLM 등 외부 tool 없이 검색을 Full-simulation해서 RL → real-world로 전이 가능한 self-search 모델 구축
The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
LRM이 think하는 것처럼 보여도, 복잡도가 높으면 실패하거나 추론도 비효율적으로(=덜) 하는 경우가 많아, 진정한 일반화 추론 성능은 부족하다.
ReSpAct: Harmonizing Reasoning, Speaking, and Acting Towards Building Large Language Model-Based Conversational AI Agents
LLM-based agent에 reasoning, conversation, action 기능을 통합, 대화형 환경에서 역동적/협업적/context-aware한 task-solving을 가능하게 하는 ReSpAct 프레임워크 제안
Reasoning Models Can Be Effective Without Thinking
reasoning 없이 reasoning 성능 내기 - 프롬프트만 바꿔서 짧게 여러 답변 생성시키는게 긴 CoT보다 나을 수 있다.
Concise Reasoning via Reinforcement Learning
RL로 학습된 LLM이 불필요하게 긴 추론을 생성하지만, 2-phrase RL로 정확도를 유지하면서 간결한 추론을 시킬 수 있다.
DeepPerception: Advancing R1-like Cognitive Visual Perception in MLLMs for Knowledge-Intensive Visual Grounding
MLLMs가 cognitive visual reasoning 하도록 학습하는 DeepPerception 제안+ Knowledge-Intensive Visual Grounding task 소개 (+ KVG-Bench 공개)
The Danger of Overthinking: Examining the Reasoning-Action Dilemma in Agentic Tasks
LRMs이 overthinking하게 되면 agentic 환경과 제대로 상호작용하지 못하는 Reasoning-Action Dilemma가 발생되고, 이는 성능 하락을 초래한다는 결과 보고
LIMO - Less is More for Reasoning
작지만 좋은 데이터만으로 수리추론 능력 향상시키기 = 모델이 이미 알고 있는 걸 잘 끄집어내는 것이 중요하다.
Thoughts Are All Over the Place: On the Underthinking of o1-Like LLMs
o1-like LLMs이 어려운 문제를 풀 때 불필요하게 사고 흐름을 자주 변경하는 Underthinking 현상 분석
Large Language Monkeys: Scaling Inference Compute with Repeated Sampling
Repeated Sampling이 LLM 성능에서 coverage 측면의 효용이 매우 크고, 자동 verification이 가능한 경우 정확도까지 크게 향상시킨다.
Critical Tokens Matter: Token-Level Contrastive Estimation Enhances LLM’s Reasoning Capability
오류 추론이 발생하는 과정에 중요 역할(원인)을 하는 토큰 (critical token)을 식별하여 이 토큰을 모델 추론 개선에 적용(cDPO)하는 방법론 제안
Reverse Thinking Makes LLMs Stronger Reasoners
LLM이 '역발상'을 학습하도록 훈련하면 상식, 수학, 논리적 추론같은 task 성능 향상에 큰 도움. x10만큼의 forward training(standard finetuning)보다 성능이 뛰어나다고 주장.
Gemini in Reasoning: Unveiling Commonsense in Multimodal Large Language Models
Gemini ≒ GPT-3.5-turbo, Gemini ≲ GPT-4-Turbo
redesign 1 posts
Private site publish state — 5 case + listing 축 정리
This post will be published soon.
reinforcement-learning 11 posts
Reasoning with Sampling: Your Base Model is Smarter Than You Think
추가 학습 없이 단순 MCMC 기반 샘플링만으로 LLM의 base model이 RL로 post-training된 모델 수준의 추론 능력 낼 수 있다.
GraphRAG-R1: Graph Retrieval-Augmented Generation with Process-Constrained Reinforcement Learning
RL(GRPO)에 2가지 constrained reward(RPA + CAF) 적용하여 GraphRAG agent 학습 > 검색할 때 입력으로 triplet과 자연어 하이브리드 활용하여 multi-hop QA에서 큰 성능 향상 확인
Cooper: Co-Optimizing Policy and Reward Models in Reinforcement Learning for Large Language Models
policy와 reference-based RM (verifyRM) 을 동시에 update하는 RL framework COOPER 제안. reward hacking을 막기 위해 rule-based positives와 LLM-generated negatives를 활용한 contras...
SFT Memorizes, RL Generalizes: A Comparative Study of Foundation Model Post-training
SFT는 학습 데이터를 암기한다면, RL은 Rule-based text/vision reasoning 모두에서 일반화 능력을 배운다.
TTRL: Test-Time Reinforcement Learning
test 데이터만으로 majority-voting으로 reward 추정, 이를 통해 RL 시도하는 제안 TTRL이 reasoning 성능을 x2~x3까지 끌어올릴 수 있다
Concise Reasoning via Reinforcement Learning
RL로 학습된 LLM이 불필요하게 긴 추론을 생성하지만, 2-phrase RL로 정확도를 유지하면서 간결한 추론을 시킬 수 있다.
Adversarial Policy Optimization for Offline Preference-based Reinforcement Learning
PbRL을 위한 적대적 선호기반 최적화 방법론 APPO 제안
Planning Like Human: A Dual-process Framework for Dialogue Planning
익숙한 상황을 처리하는 intuitive (fast) 정책 모델과 새로운 시나리오를 위한 analytical (slow)의 정책 모델을 상호 보완적으로 사용하는 이중 dialogue planning 프레임워크 제안
Scaling Laws for Reward Model Overoptimization
RM으로 Policy model을 학습하면 학습할수록 real (human) preference와 격차가 벌어지는 overoptimization이 (반드시) 발생되며, 이 현상의 도달을 늦추는(?) 데에는 RM의 사이즈를 키우는게 유의한 영향을 끼치는 것으로 보임.
Self-Rewarding Language Models
반복적인 DPO 훈련으로 사람이 설계한 reward model이 아닌, LLM-as-a-Judge mechanism을 사용, LM이 자율적으로 instruction following & reward modeling > refine 반복.
Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models
human-annotated data를 더 만들지 않더라도 weak LLM이 self-improve할 수 있다.
remode 1 posts
Private Research Proposal — Modality Gap
This post will be published soon.
representation-learning 5 posts
MoEE: Your Mixture-of-Experts LLM Is Secretly an Embedding Model For Free
MoE LLM의 router weight를 활용하면 별도 추가 학습 없이 decoder-style LLM에서도 괜찮은 representation (embedding) 뽑을 수 있다.
Word Translation Without Parallel Data
(token) Embedding Alignment 를 통한 x-lingual translation 성능 향상
Is Cosine-Similarity of Embeddings Really About Similarity?
cosine-similarity를 의미적 유사도를 측정하는 척도로 맹신하지는 말아야 한다.
Generative Representational Instruction Tuning
text embedding과 generation 통합하는 Generative Representational Instruction Tuning 제안. 단일모델인 GritLM은 embedding(MTEB) 및 generation task(BBH...)에서 모두 SoTA를 달성.
Improving Text Embeddings with Large Language Models
GPT-3.5, GPT-4를 활용, 2-step prompt 사용해서 만든 synthetic data(94 languages, 500K examples)로 decoder-only LLM(Mistral-7B)을 contrastive loss 사용해 1-epoch 학습. 이 unlab...
research 1 posts
[log-00] 연구 개요 + 실험 설계
Kanana-o Modality Gap Study
research-plan 1 posts
Private 관찰자 AI는 언제 말을 걸어야할까? proactive intervention 벤치마크(?) 제안
This post will be published soon.
respond 7 posts
[log-22] 감정응답 LaaJ — K가 Q·M 우세 (audio)
Kanana 오디오 응답이 Qwen·MiniCPM 응답보다 명확히 우세 (overall 0.80+). 단 naturalness 축에서는 MiniCPM TTS 와 비등.
[log-21] 감정응답 LaaJ — Kanana만 인간 수준과 동급 (text)
Kanana 텍스트 응답이 인간 reference 와 사실상 동률(0.50)을 기록. baseline 3가지 모델(HCX/Qwen/MiniCPM)은 인간 응답에 비교해 확실히 그 수준이 못함(0.88~0.99).
Private respond + LaaJ 운영 기록 (Kanana 본 실행 + 5/01·5/11 judge 회차)
This post will be published soon.
Private exp_c — respond 산출물 commit + audio gitignore
This post will be published soon.
[log-19] 감정응답 — LaaJ 설계 (pairwise 평가)
감정응답 평가용 LLM-as-a-judge 프로토콜. 후보 5종 (Kanana / HCX / Qwen / MiniCPM / Human) anchor only with Human pairwise, 한국어 공감 응답 평가 3축 (공감적 반응 / 한국어 자연스러움 / 맥락 일관성), g...
Private 감정응답 — LaaJ 1차 batch 폐기 사고
This post will be published soon.
[log-16] 감정 — 설계 확정 + 데이터 전체셋
감정 실험의 변형(modality × context × prosody) 전체셋을 마감하고, 응답 task의 입력 paradigm 결정과 평가축까지 확정. log-15에서 톤 맵핑·TTS 96/112를 만들어 두었고, 이제 그 위에서 설계를 마무리하는 단계.
rl 3 posts
TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models
시계열 추론을 위한 포괄적 benchmark TSR-Suite와 SFT+RL 2단계 학습 기반의 통합 추론 모델 TimeOmni-1을 제안, GPT-4.1 대비 causal discovery 정확도 +40.6% 달성
Memex(RL): Scaling Long-Horizon LLM Agents via Indexed Experience Memory
Long-horizon LLM agents의 context window bottleneck 해결을 위해, 구조화된 메모리 시스템 Indexed Experience Memory와 이를 학습하는 MemexRL 제안
MEM1: Learning to Synergize Memory and Reasoning for Efficient Long-Horizon Agents
memory consolidation과 reasoning을 하나의 internal state로 통합하도록 RL 학습하여 long-horizon task에서 거의 일정한 context size 유지하며 성능 향상
sae 2 posts
Gemma Scope: Open Sparse Autoencoders Everywhere All At Once on Gemma 2
LM (Gemma 2) interpretability를 위한 Gemma Scope suite 공개에 따른 technical Report
Jumping Ahead: Improving Reconstruction Fidelity with JumpReLU Sparse Autoencoders
기존 vanilla ReLU를 jumpReLU라는 비연속 activation으로 대체하여 새로운 SAE (sparse autoencodesr) SOTA, 비연속적인 activation 사용하지만 straight-through estimator로 효과적으로 학습
safety 4 posts
Safety Layers of Aligned Large Language Models: The Key to LLM Security
다양한 Aligned LLM의 내부 파라미터에 safety layer가 존재하는 것을 확인. safety layer는 악의적인 사용자 질의를 식별하고 또 거부하는 역할을 수행. 이를 바탕으로 safety를 유지하는 Finetuning 방법론 SPPFT 제안.
Social Learning: Towards Collaborative Learning with Large Language Models
Social Learning으로부터 착안, LLM(Teacher)이 다른 AI모델(Students)을 가르치는 구조 제안, 성능면에서 차이 없이 안전성 증가
Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training
LLM도 기만적(deceptive)일 수 있다. LLM이 더욱 일관되고 논리적인 기만을 생성하도록 학습 가능하고, 이는 standard로 알려진 safety 학습 방식으로는 처리되지 못함.
Weak-to-strong Generalization: Eliciting Strong Capabilities with Weak Supervision
Naively finetune strong pretrained models on labels generated by a weak model consistently perform better than their weak supervisors.
scaling-laws 1 posts
Scaling Laws of Synthetic Data for Language Models
SYNTHLLM 방식으로 생성한 합성데이터는 LLM finetuning에 대해 예측 가능하고 효과적으로 scale 되고, 수정한 scaling law에 따라 natural data 부족에 대한 확장가능한 솔루션이 된다고 주장
self-consistency 1 posts
A Theoretical Study on Bridging Internal Probability and Self-Consistency for LLM Reasoning
Sampling-based test-time scaling의 첫 이론적 프레임워크를 제안하고, SC와 PPL의 한계를 분석하여 두 방법의 장점을 결합한 RPC를 제안
self-improvement 14 posts
Evo-Memory: Benchmarking LLM Agent Test-time Learning with Self-Evolving Memory
LLM Agent가 test-time에 과거 경험을 스스로 진화시키며 학습하는 능력을 평가하는 streaming benchmark Evo-Memory 제안, ExpRAG / ReMem 같은 baseline을 제안하여 경험 재사용 기반 성능 향상에 대한 비교 평가 기반 제시
RefCritic: Training Long Chain-of-Thought Critic Models with Refinement Feedback
해답의 정확성 및 개선 기여 피드백을 모두 평가하는 dual-reward RL-trained critic model을 도입한 RefCritic 제안, 수리 추론 과제에서 큰 성능 향상
The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
LRM이 think하는 것처럼 보여도, 복잡도가 높으면 실패하거나 추론도 비효율적으로(=덜) 하는 경우가 많아, 진정한 일반화 추론 성능은 부족하다.
Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems
Meta info. Authors: Bang Liu, Xinfeng Li, Jiayi Zhang, Jinlin Wang, Tanjin He, Sirui Hong, Hongzhang Liu, Shaokun Zhang, Kaitao Song, Kunlun Zhu, Y...
Scaling Laws of Synthetic Data for Language Models
SYNTHLLM 방식으로 생성한 합성데이터는 LLM finetuning에 대해 예측 가능하고 효과적으로 scale 되고, 수정한 scaling law에 따라 natural data 부족에 대한 확장가능한 솔루션이 된다고 주장
Learning to Plan & Reason for Evaluation with Thinking-LLM-as-a-Judge
사전에 평가 기준을 제공하지 않고, 자체적으로 평가 계획-실행-판단을 분리하여 수행하는 Self-training loop의 thinking-llm-as-a-judge framework 제안, 적은 데이터로도 SOTA 성능달성
Agent-R: Training Language Model Agents to Reflect via Iterative Self-Training
Multi-turn 환경에서 LLM self-reflection & correction 강화 framework Agent-R 제안
Large Language Monkeys: Scaling Inference Compute with Repeated Sampling
Repeated Sampling이 LLM 성능에서 coverage 측면의 효용이 매우 크고, 자동 verification이 가능한 경우 정확도까지 크게 향상시킨다.
Divide-and-Conquer Meets Consensus: Unleashing the Power of Functions in Code Generation
Divide-and-Conquer 전략에 기능적 합의(functional consensus)를 접목한 CodeGen framework FUNCODER 제안
Diversify and Conquer: Diversity-Centric Data Selection with Iterative Refinement
instance level로 괜찮은 데이터만 골라 학습하기보다, k-means clustering 활용한 Diversity-Centric Data Selection이 LLM finetuning의 효율성과 성능 향상에 유의하다.
SaySelf: Teaching LLMs to Express Confidence with Self-Reflective Rationales
자기 반성적(?) 근거와 다중 추론 chain으로 LLM에서 신뢰도 보정 오류를 30% 줄인다
Self-Rewarding Language Models
반복적인 DPO 훈련으로 사람이 설계한 reward model이 아닌, LLM-as-a-Judge mechanism을 사용, LM이 자율적으로 instruction following & reward modeling > refine 반복.
Bootstrapping LLM-based Task-Oriented Dialogue Agents via Self-Talk
LM이 Self-Talk를 통해 training 데이터를 생성>정제>SFT에 활용 (bootstrapping). 이 과정에서 병목을 해소하기 위해 대화성공 여부를 측정하는 automatic metric 제안
Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models
human-annotated data를 더 만들지 않더라도 weak LLM이 self-improve할 수 있다.
self-learning 1 posts
Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models
human-annotated data를 더 만들지 않더라도 weak LLM이 self-improve할 수 있다.
self-reinforcing-error 1 posts
Belief Memory: Agent Memory Under Partial Observability
기존 agent memory가 관측을 단일 deterministic 결론으로 저장해 self-reinforcing error를 일으킨다는 문제를 지적하고, 후보 결론들을 확률과 함께 유지하며 noisy-OR로 갱신하는 belief 기반 memory(BeliefMem)를 제안
setup 2 posts
Private tmux note
This post will be published soon.
Private telegram for claude code
This post will be published soon.
sft 1 posts
Diversify and Conquer: Diversity-Centric Data Selection with Iterative Refinement
instance level로 괜찮은 데이터만 골라 학습하기보다, k-means clustering 활용한 Diversity-Centric Data Selection이 LLM finetuning의 효율성과 성능 향상에 유의하다.
site 1 posts
Private site publish state — 5 case + listing 축 정리
This post will be published soon.
slides 1 posts
Private Research Proposal — Modality Gap
This post will be published soon.
status 1 posts
Private 감정 — 진행 상태
This post will be published soon.
synthetic-data 1 posts
Scaling Laws of Synthetic Data for Language Models
SYNTHLLM 방식으로 생성한 합성데이터는 LLM finetuning에 대해 예측 가능하고 효과적으로 scale 되고, 수정한 scaling law에 따라 natural data 부족에 대한 확장가능한 솔루션이 된다고 주장
tableqa 1 posts
Knowing When to Ask - Bridging Large Language Models and Data
Data Commons (knowledge Graph)를 활용하여 LLM 응답의 사실성과 신뢰성을 향상시켜 LLM과 실제 데이터 간의 격차 해소하는 DataGemma 소개
talk 1 posts
Private Research Proposal — Modality Gap
This post will be published soon.
telegram 1 posts
Private telegram for claude code
This post will be published soon.
test-time-scaling 2 posts
A Theoretical Study on Bridging Internal Probability and Self-Consistency for LLM Reasoning
Sampling-based test-time scaling의 첫 이론적 프레임워크를 제안하고, SC와 PPL의 한계를 분석하여 두 방법의 장점을 결합한 RPC를 제안
TTRL: Test-Time Reinforcement Learning
test 데이터만으로 majority-voting으로 reward 추정, 이를 통해 RL 시도하는 제안 TTRL이 reasoning 성능을 x2~x3까지 끌어올릴 수 있다
time-sensitive 1 posts
Real-time Fake News from Adversarial Feedback
LLM의 fake news를 더 잘 생성하게 하는 방법. 학습 이후 발생되는 사건의 fake news 탐지를 위해, adversarial iterative fake news 생성 파이프라인 제안
time-series 1 posts
TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models
시계열 추론을 위한 포괄적 benchmark TSR-Suite와 SFT+RL 2단계 학습 기반의 통합 추론 모델 TimeOmni-1을 제안, GPT-4.1 대비 causal discovery 정확도 +40.6% 달성
tmux 1 posts
Private tmux note
This post will be published soon.
tool-calling 2 posts
Pushing the Limits of LLM Tool Calling via Experiential Knowledge Integration and Activation
Tool-use에서 experiential knowledge를 획득·활성화·내재화 전 단계에 걸쳐 분석하고, instance-level trajectory + reasoning-width 확장(parallel sampling) + knowledge-aware training을 통합...
Advancing and Benchmarking Personalized Tool Invocation for LLMs
Personalized Tool Invocation이라는 새 task(Tool Preference + Profile-dependent Query)를 정의하고, LLM 기반 데이터 합성 프레임워크 PTool과 첫 벤치마크 PTBench를 구축해 Qwen2.5-7B를 SFT만으로 개인...
transfer-learning 1 posts
Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents
Coding agent의 self-evolving memory를 domain 내부 말고도 그 밖에 있는 domain 간 transfer 하자; 추상도가 높은 Insight 형태의 meta-knowledge가 cross-domain에서 일관된 성능 향상을 만든다.
transformers 4 posts
Differential Transformer
Q/K를 각각 두 그룹으로 나누어 2개의 softmax attention map간 차이를 계산, relevant context에 대한 attention을 키우고 노이즈는 제거하는 방식의 transformers 변형 제안, hallucination 개선
Selective Attention Improves Transformer
attention 연산에서 파라미터 변경 없이, 생성된 token이 다른 token이 더이상 필요 없다고 결정할 수 있도록 처리, 미래 시점에서는 해당 token이 불필요하다고 판단했던 token들에 대한 attention을 줄이는 방법으로 효과적으로 메모리 사용량과 계산 비용을 ...
Zero-Shot Cross-Domain Dialogue State Tracking via Dual Low-Rank Adaptation
multi-layer구조를 기반으로 한 transformer 계열 모델에서 prompt가 뒤쪽으로 갈수록 잊혀지는 문제를 완화하는 DualLoRA 제안
Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet
Claude3-sonet의 중간 layer에서 나온 Residual stream로 Sparse Auto-encoder (SAE) 학습, SAE와 그 feature vector 활용하여 해석 가능한 수준의 특성 확인가능.
translate 1 posts
Word Translation Without Parallel Data
(token) Embedding Alignment 를 통한 x-lingual translation 성능 향상
tts 1 posts
[log-15] 감정 — 데이터 준비 (KoED 재샘플링 + 톤 매핑)
KoED에서 6축 56샘플 재샘플링 + Kanana TTS로 감정 톤 오디오 아티팩트 생성.
unlearning 1 posts
Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice
unlearning이 genAI를 통제할 수 있는 범용 solution이 못된다
user-model 2 posts
ICML2026 관심 논문
초개인화/observer 연구 방향에서 볼 만한 ICML 2026 accepted 논문을 노트의 축(representation, 관찰/갱신, 평가, proactive, 선호/alignment, recsys) 정리.
초개인화를 어떻게 연구해야할까?
채팅 시스템 안의 agent를 초개인화한다는 문제를, 무엇을 모델링할지(user representation)와 어떻게 평가할지로 구분하여 정리.
user-preference 1 posts
Advancing and Benchmarking Personalized Tool Invocation for LLMs
Personalized Tool Invocation이라는 새 task(Tool Preference + Profile-dependent Query)를 정의하고, LLM 기반 데이터 합성 프레임워크 PTool과 첫 벤치마크 PTBench를 구축해 Qwen2.5-7B를 SFT만으로 개인...
user-simulation 1 posts
Synthetic Users, Real Differences: an Evaluation Framework for User Simulation in Multi-Turn Conversations
real vs simulated 대화를 8개 dimension의 distribution 차이로 비교하는 realsim framework를 제안, LLM 기반 user simulator가 communication friction을 잘 못 재현해 chatbot 평가가 over-opti...
weight-merging 2 posts
Configurable Foundation Models: Building LLMs from a Modular Perspective
LLM을 인간의 뇌와 같이 기능적 모듈로 접근하자는 관점 제안 (brick 단위로 분해)과 경험적 실험 결과 보고
Knowledge Fusion of Large Language Models
기존에 각기 다른 구조를 가지면서 다양한 방식으로 학습된 여러 LLMs(soucre LLMs)을 병합해서 더 strong하게 만드는 방법(pic1)으로, 여러 LLM의 지식을 외부화하여 그들의 capability를 새로운 LLM(target LLM)으로 transfer하는 방법을 ...
workflow 1 posts
Private tmux note
This post will be published soon.
workshop 1 posts
ICML2026 관심 워크샵
초개인화/observer 연구 방향에서 들을 만한 ICML 2026(서울) 워크샵을 관심도 순으로 정리하고, 일정 겹침을 마지막에 메모.