애플은 최근 자사 제품 라인업인 애플 인텔리전스를 위한 GenAI 기능 제품군을 공개했습니다. 여기에는 이모티콘 생성기, 글쓰기 및 이미지 도구, Siri 업데이트 등이 포함되어 있습니다. 이 제품군은 GenAI 배포의 새로운 혁신으로, 사용자가 더 강력한 AI 모델을 손쉽게 사용할 수 있게 합니다. 애플은 '엣지의 AI'로 자리매김하며, 가능한 한 기기 내부에서 최대한 많은 연산을 수행해 프라이버시 문제를 해결하려고 합니다.
애플 인텔리전스는 온디바이스 및 서버 모델 제품군을 활용합니다. 온디바이스 모델로는 OpenELM과 작업별 모델셋이 있으며, 서버 측 모델로는 Ferret-UI와 Apple 클라우드에서 보호되는 다른 어댑터셋이 있습니다. 사용자 요청이 복잡한 경우, 애플 기기는 이를 ChatGPT-4o로 전송할 수 있습니다. 오케스트레이션 알고리즘은 가장 적합한 모델을 평가해 선택하는 역할을 합니다.
애플은 AI 모델의 메모리 요구량을 줄이기 위해 정량화 및 파인튜닝 기법을 사용합니다. 정량화는 RAM 요구량을 줄여 다른 프로그램을 위한 공간을 확보할 수 있게 하며, 파인튜닝 기술인 LoRA를 사용해 모델을 최적화합니다. LoRA는 기본 모델에 보조 어댑터를 만들어 특정 작업에 필요한 가중치만 파인튜닝합니다. 이를 통해 애플은 하나의 큰 모델과 여러 작은 어댑터셋을 저장해 필요한 작업에 맞게 모델을 조정할 수 있습니다.
애플 인텔리전스는 온디바이스 모델(OpenELM 및 이미지 모델)과 서버 모델(프라이빗 클라우드 컴퓨팅 Apple 모델 스택)로 구성됩니다. 오케스트레이션 알고리즘은 사용자 요청이 기기 내에서 처리될지, Apple 서버 모델로 처리될지, ChatGPT로 전달될지를 결정합니다. 앱 인텐트 툴박스는 Siri와 모델이 다양한 앱과 상호 작용할 수 있도록 지원하며, 시맨틱 인덱스는 벡터 데이터베이스로서 데이터를 검색하고 상호 작용할 수 있게 합니다.
애플의 새로운 GenAI 기능은 사용자 프라이버시를 강화하는 동시에 iPhone 15 Pro, Pro Max, M1 칩이 탑재된 iPad 및 Mac으로의 업그레이드를 유도합니다. 이는 몇 세대에 걸쳐 미미한 개선만 있었던 애플 제품에 대한 강력한 업그레이드 이유를 제공합니다. 또한, 애플은 모든 모델의 가중치와 데이터셋을 공개해 AI 분야에서 개방성을 추구하고 있습니다. 이는 메타를 능가하는 AI 분야에서 가장 개방적인 대기업이 되는 것을 목표로 하고 있으며, 다른 기업들도 이를 따르도록 장려하는 역할을 합니다.
애플 인텔리전스는 어떻게 엣지AI의 한계를 뛰어넘었나 : 씽크탱크 | 도큐멘토
애플 인텔리전스는 어떻게 엣지AI의 한계를 뛰어넘었나애플은 최근 자사 제품 라인업인 애플 인텔리전스를 위한 GenAI 기능 제품군을 공개했습니다. 여기에는 이모티콘 생성기, 글쓰기 및 이미지
www.documento.co.kr