[ Artificial Intelligence ]

선형 기계학습 지도학습 알고리즘> 지도학습 알고리즘>> k-최근접 이웃 알고리즘>> 의사결정 트리 >> 랜덤 포레스트>> 선형 판별 분석 >> 서포트 벡터 머신 k-최근접 이웃 = k-NN 알고리즘- 가장 단순한 머신러닝 알고리즘- 저장된 학습 데이터 셋에 대한 판별- 분류하고자 하는 데이터와 가장 이웃한 데이터 클래스들을 기반으로 클래스를 판별한다 - 간단한 계산, 조정 필요 없음 = 개념 증명 실험을 위해 채택- k=3 ~ k=5 그래프에 러닝 클래스 0과 러닝 클래스 1이 분포하고 있을 때테스트 데이터의 위치에서 가장 가까운 러닝 데이터 k개의 클래스를 기준으로다수결이 투표를 통해 테스트 데이터의 소속 클래스를 판단한다 결정 경계 decision boundary구분된 클래스를 기준으로 결정 경계를 ..

E2E domain decomposition kernelend to end domain decomposition kernel- 대규모 계산 문제를 병렬 처리하기 위해 도메인 분해 기술을 활용하는 프레임 워크E2E end to end- 시스템 전체. 초기 인풋부터 최종 아웃풋까지 전반적인 프로세스를 통합적으로 관리- 모든 단계의 계산 최적화, 이동과 병목 감소 domain decomposition 도메인 분해- 복잡한 계산 문제를 공간적으로 작은 sub domain으로 나누는 방법- 서브 도메인은 각각 서로 독립적으로 계산 가능해서 병렬화로 효율 향상 가능rank- 도메인 분해와 병렬 계산에서 병렬 프로세스의 고유 id를 나타내는 것- 0부터. int

인 컨텍스트 러닝 in context learning- 대규모 언어 모델 LLM이 프롬프트 안에 있는 예제 (=context) 기반으로 추론하는 능력- 학습된 매개변수를 모델이 변경, 재조정 하지 않고 프롬프트에서 제공된 맥락만을 통해 작업을 이해하고 수행하는 방법 - 모델이 새로운 데이터나 작업을 수행하기 위해 다시 훈련되는 일 없이 입력된 프롬프트 기반으로 작업을 한다- 프롬프트 안에 작업의 정의와 몇 가지 입출력 예시를 포함시켜서 가이드를 줄 수 있다 - zero shot 작업에 대한 맥락 즉 프롬프트 안에 예시 없이도 일반적인 명령과 질문을 수행- few shot 프롬프트에 몇 가지 예시를 제공해서 작업을 이해 - 모델은 프롬프트 내 정보를 우선적으로 사용하고 그에 더하여 사전 훈련 과정에서 학습..

Deep Learning from scratch chapter 2. perceptron 밑바닥부터 시작하는 딥러닝 2장 퍼셉트론Deep Learning from scratch 밑바닥부터 시작하는 딥러닝원문 저자 사이토 고키번역판 한빛미디어본문은 필자가 번역판의해당 챕터 전문을 요약 정리한 포스팅입니다 교재에 있으나 해당 포스팅에서 생략된 내용은 거의 없으며교재에 생략된 내용은 필자가 보충하여 작성했습니다  2.3.2 가중치와 편향 도입세타로 표기했던 것을  -b로 치환하여 다시 정리해보자면 다음과 같다b는 bias 편향이고 w값들은 그대로 가중치를 의미한다퍼셉트론은 입력 신호에 가중치를 곱한 값과 편향을 합해서그 값이 0을 넘으면 1을 출력하고 넘지 않으면 0을 출력하는 방식이다 넘파이 배열끼리 곱하는..

Deep Learning from scratch chapter 2. perceptron밑바닥부터 시작하는 딥러닝 2장 퍼셉트론Deep Learning from scratch 밑바닥부터 시작하는 딥러닝원문 저자 사이토 고키번역판 한빛미디어본문은 필자가 번역판의해당 챕터 전문을 요약 정리한 포스팅입니다 교재에 있으나 해당 포스팅에서 생략된 내용은 거의 없으며교재에 생략된 내용은 필자가 보충하여 작성했습니다  2.1 퍼셉트론퍼셉트론 - 프랑크 로젠블라트, 1957 제안 알고리즘- 신경망 딥러닝의 기원이 되는 알고리즘 (원시적이지만 병렬구조와 순차구조와 만나 효율적인 알고리즘)- 다수의 신호를 입력으로 받아 신호를 출력 * 퍼셉트론의 신호는 전기적 흐름으로 흐름 1 / 안 흐름 0 으로만 구분입력층 좌측에 있..

1. 온디바이스 AI 란 = On-Device AI = 기기에 탑재된 인공지능 = 기존의 서버 기반 AI는 클라우드 서버에서 데이터를 수집 학습한 후 디바이스로 결과를 전송하는 방식이라 데이터 수집과 전송으로 인한 전력 소모가 크고 인터넷 연결이 어려운 경우 사용할 수 없다는 단점이 있으므로 간단한 AI는 디바이스 자체에 AI 연산을 수행할 수 있는 칩을 내장하여 통신 연결 없이 엣지단에서의 디바이스 컴퓨팅으로 동작시키려는 것 -> 장점 : 데이터 수집 전송시간 감소로 인한 저지연, 데이터를 클라우드 서버에 전송하지 않으므로 개인정보 보호, 인터넷 연결이 불가능한 상황에서도 사용 가능한 안정 -> 클라우드 중심 AI에서 하이브리드 AI로 전환되며 Device, Edge Computing, Cloud 로 ..

1. GAN - GAN = Generative Adversarial Networks = 적대적 생성 신경망 - 생성형 모델 Generative Model 의 일종 - 실제에 가까운 이미지나 사람이 쓴 것 같은 글 등 여러 종류의 가짜 데이터들을 생성하는 모델 - 서로 다른 두 개의 네트워크를 적대적으로 학습시키고 실제 데이터와 유사한 데이터를 생성하는 모델 - 생성 데이터에는 라벨링된 값이 없기 때문에 비지도 학습 Unsupervised learning 기반 생성형 모델 Generative Model에 속함 - 이미지, 영상, 텍스트 생성 등에 적용 2. GAN을 제안한 Lan Goodfellow의 비유 위조 지폐범은 최대한 진짜 같은 가짜 화폐를 생성해 경찰을 속이기 위해 노력하고 경찰은 진짜 화폐와 ..

InstantID - 개인화된 이미지 합성의 문제를 해결하기 위한 디퓨전 모델 기반 솔루션 (디퓨전 모델, Diffusion model 확산 모델 확산 확률 모델 : 확산 과정을 수행한 뒤 원본 이미지를 만들기 위해 노력하는 과정을 기계학습하여 새로운 이미지를 만드는 생성형 모델. 과거에는 적대적 생성형 신경망(GAN)이 최고 기술이었으나 그보다 성능이 훨씬 뛰어남.) (적대적 생성형 신경, Generative Adversarial Networks GAN : 실제에 가까운 이미지나 사람이 쓴 것과 같은 글 등 여러 가짜 데이터들을 생성하는 모델 ) - 단일 얼굴 이미지를 사용하여 다양한 스타일의 이미지 생성 - 높은 충실도를 유지하며 강력한 의미론적 조건과 약한 공간적 조건을 결합해 이미지 생성 유도 -..

Apple의 AIM, 대규모 비전 모델의 새로운 지평을 열다 AIM - Autoregressive Image Model 자기회귀영상모델 Apple사의 AIM - LLM 에서 영감을 받아 개발된 Apple사의 대규모 비전 모델 ( LLM, Large language model 거대언어모델 : 자기 지도 학습이나 반자기지도학습을 사용하여 레이블링되지 않은 데이터로 학습하여 수많은 파라미터를 보유한 인공 신경망으로 구성, AI 챗봇 기술을 가능하게 하는 요소이며 작동 방식은 크게 3가지(토큰화, 트랜스포머 모델, 프롬프트)) - 시각적 특징의 성능이 모델 용량과 데이터 양에 따라 확장됨 - 2억 개 이미지에 대해 70억 개 매개변수로 사전 훈련 - ImageNet-1k에서 높은 정확도를 달성하여 대규모 비전 ..

인공지능을 활용한 반도체 제조 공정 효율화 김세윤 박사님 (GAUSS LABS) # AI 활용 반도체와 AI 반도체의 차이 AI를 활용한 반도체 산업은 인공 지능 기술을 반도체 산업에 통합하여 생산성과 효율성을 향상시키는 것을 목표로 하는 것 AI 반도체는 인공 지능(AI) 처리를 위해 특별히 설계된 반도체로, 빅 데이터 처리, 머신 러닝, 딥 러닝 등과 같은 고성능 컴퓨팅 작업에 최적화된 반도체 # 반도체 제조 nano-meter fabrication 웨이퍼 wafer : 300mm 제작시 3개월, 600 공정 소요되므로 초반 과정으로 다시 돌리는 것이 어렵기 떄문에 장비 고장을 빠르게 알아차리는 것, 장비 관리가 중요함 # 인공지능 ( 딥러닝 ) - artificial neural network (A..