카카오i를 통한 AIoT Service의 사례와 미래

정해진 command와 slot을 매핑하는 방식은 표현이 조금만 달라져도 의도를 놓치고 복합 조건을 처리하기 어렵다. LLM은 자연어의 문맥과 여러 data type을 함께 이해해 ‘분위기를 편하게 바꿔줘’ 같은 추상 요청을 조명·온도·media action으로 분해할 가능성을 제공한다.

‘너 누구야’처럼 단순한 문장도 고유명사와 대명사, 현재 room·사용 중 device에 따라 의미가 달라진다. User location, 보유 기기와 지원 command, 이전 대화·environment state를 context로 구성하고, 실행 전 대상과 parameter를 validation해 잘못된 제어를 막는다.

전체 IoT 목록과 capability, 시간·계절·선호 온도 같은 user context를 prompt에 넣고 단계별로 필요한 device와 설정값을 추론한다. LLM output은 자유문이 아니라 platform schema의 action list로 제한하며, 권한과 범위를 확인한 뒤 실제 device API를 호출한다.

모든 device·명령 example을 prompt에 넣으면 context가 커지므로 request와 관련된 demonstration만 retriever로 골라 few-shot에 사용한다. 앞으로는 user pattern을 반영한 개인화, 제조사·protocol이 늘어도 유지되는 확장성, privacy와 security, real-time 장애 시 안전한 fallback을 해결해야 한다.