[ Artificial Intelligence ]10 [AI/ML] 선형 기계학습 알고리즘 - 지도학습 (KNN, 의사결정 트리, 랜덤포레스트, LDA, SVM) 선형 기계학습 지도학습 알고리즘> 지도학습 알고리즘>> k-최근접 이웃 알고리즘>> 의사결정 트리 >> 랜덤 포레스트>> 선형 판별 분석 >> 서포트 벡터 머신 k-최근접 이웃 = k-NN 알고리즘- 가장 단순한 머신러닝 알고리즘- 저장된 학습 데이터 셋에 대한 판별- 분류하고자 하는 데이터와 가장 이웃한 데이터 클래스들을 기반으로 클래스를 판별한다 - 간단한 계산, 조정 필요 없음 = 개념 증명 실험을 위해 채택- k=3 ~ k=5 그래프에 러닝 클래스 0과 러닝 클래스 1이 분포하고 있을 때테스트 데이터의 위치에서 가장 가까운 러닝 데이터 k개의 클래스를 기준으로다수결이 투표를 통해 테스트 데이터의 소속 클래스를 판단한다 결정 경계 decision boundary구분된 클래스를 기준으로 결정 경계를 .. 2024. 11. 30. [AI/ML] E2E domain decomposition kernel 도메인 분해 커널 E2E domain decomposition kernelend to end domain decomposition kernel- 대규모 계산 문제를 병렬 처리하기 위해 도메인 분해 기술을 활용하는 프레임 워크E2E end to end- 시스템 전체. 초기 인풋부터 최종 아웃풋까지 전반적인 프로세스를 통합적으로 관리- 모든 단계의 계산 최적화, 이동과 병목 감소 domain decomposition 도메인 분해- 복잡한 계산 문제를 공간적으로 작은 sub domain으로 나누는 방법- 서브 도메인은 각각 서로 독립적으로 계산 가능해서 병렬화로 효율 향상 가능rank- 도메인 분해와 병렬 계산에서 병렬 프로세스의 고유 id를 나타내는 것- 0부터. int 2024. 11. 22. [AI/LLM] In-context learning 인 컨텍스트 러닝 in context learning- 대규모 언어 모델 LLM이 프롬프트 안에 있는 예제 (=context) 기반으로 추론하는 능력- 학습된 매개변수를 모델이 변경, 재조정 하지 않고 프롬프트에서 제공된 맥락만을 통해 작업을 이해하고 수행하는 방법 - 모델이 새로운 데이터나 작업을 수행하기 위해 다시 훈련되는 일 없이 입력된 프롬프트 기반으로 작업을 한다- 프롬프트 안에 작업의 정의와 몇 가지 입출력 예시를 포함시켜서 가이드를 줄 수 있다 - zero shot 작업에 대한 맥락 즉 프롬프트 안에 예시 없이도 일반적인 명령과 질문을 수행- few shot 프롬프트에 몇 가지 예시를 제공해서 작업을 이해 - 모델은 프롬프트 내 정보를 우선적으로 사용하고 그에 더하여 사전 훈련 과정에서 학습.. 2024. 11. 22. [AI/DL] 밑바닥부터 시작하는 딥러닝 2장. 퍼셉트론 2 (번역판 전문 요약) Deep Learning from scratch chapter 2. perceptron 밑바닥부터 시작하는 딥러닝 2장 퍼셉트론Deep Learning from scratch 밑바닥부터 시작하는 딥러닝원문 저자 사이토 고키번역판 한빛미디어본문은 필자가 번역판의해당 챕터 전문을 요약 정리한 포스팅입니다 교재에 있으나 해당 포스팅에서 생략된 내용은 거의 없으며교재에 생략된 내용은 필자가 보충하여 작성했습니다 2.3.2 가중치와 편향 도입세타로 표기했던 것을 -b로 치환하여 다시 정리해보자면 다음과 같다b는 bias 편향이고 w값들은 그대로 가중치를 의미한다퍼셉트론은 입력 신호에 가중치를 곱한 값과 편향을 합해서그 값이 0을 넘으면 1을 출력하고 넘지 않으면 0을 출력하는 방식이다 넘파이 배열끼리 곱하는.. 2024. 9. 15. [AI/DL] 밑바닥부터 시작하는 딥러닝 2장. 퍼셉트론 1 (번역판 전문 요약) Deep Learning from scratch chapter 2. perceptron밑바닥부터 시작하는 딥러닝 2장 퍼셉트론Deep Learning from scratch 밑바닥부터 시작하는 딥러닝원문 저자 사이토 고키번역판 한빛미디어본문은 필자가 번역판의해당 챕터 전문을 요약 정리한 포스팅입니다 교재에 있으나 해당 포스팅에서 생략된 내용은 거의 없으며교재에 생략된 내용은 필자가 보충하여 작성했습니다 2.1 퍼셉트론퍼셉트론 - 프랑크 로젠블라트, 1957 제안 알고리즘- 신경망 딥러닝의 기원이 되는 알고리즘 (원시적이지만 병렬구조와 순차구조와 만나 효율적인 알고리즘)- 다수의 신호를 입력으로 받아 신호를 출력 * 퍼셉트론의 신호는 전기적 흐름으로 흐름 1 / 안 흐름 0 으로만 구분입력층 좌측에 있.. 2024. 9. 13. [AI/On-Device AI] 3대 빅테크 기업의 온디바이스 AI 전략 1. 온디바이스 AI 란 = On-Device AI = 기기에 탑재된 인공지능 = 기존의 서버 기반 AI는 클라우드 서버에서 데이터를 수집 학습한 후 디바이스로 결과를 전송하는 방식이라 데이터 수집과 전송으로 인한 전력 소모가 크고 인터넷 연결이 어려운 경우 사용할 수 없다는 단점이 있으므로 간단한 AI는 디바이스 자체에 AI 연산을 수행할 수 있는 칩을 내장하여 통신 연결 없이 엣지단에서의 디바이스 컴퓨팅으로 동작시키려는 것 -> 장점 : 데이터 수집 전송시간 감소로 인한 저지연, 데이터를 클라우드 서버에 전송하지 않으므로 개인정보 보호, 인터넷 연결이 불가능한 상황에서도 사용 가능한 안정 -> 클라우드 중심 AI에서 하이브리드 AI로 전환되며 Device, Edge Computing, Cloud 로 .. 2024. 2. 1. 이전 1 2 다음 728x90
