프로페서 H의 메디톡

안녕하세요, 인공지능의 성능이 급속히 향상되면서 연구 설계부터 논문 리뷰까지 전 영역에 활용되고 있습니다. 이에 따라 저널마다 인공지능의 활용범위나 정책을 발표하고 있어 요약을 해보려고 합니다.  다음은 네이처의 정책요약입니다.  https://www.nature.com/nature-portfolio/editorial-policies/ai  Springer Nature의 AI 정책 요약Springer Nature는 인공지능(AI)의 발전과 관련된 정책을 지속적으로 검토 및 업데이트하고 있으며, 현재 다음과 같은 가이드라인을 제공한다.1. AI 저작권 및 LLM 사용AI 저작권 제한: 현재 Large Language Models (LLMs, 예: ChatGPT)는 저자 자격을 충족하지 못한다.저작권 및 책..

웹브라우저기반 시각화를 위한 준비브라우저 기반의 시각화 라이브러리를 사용하기 위한 3가지 핵심 기술인 HTML, CSS, JavaScript에 대한 간단한 요약은 다음과 같습니다.1. HTML (HyperText Markup Language)정의: 웹 페이지의 구조와 내용을 정의하는 마크업 언어역할: 웹 페이지의 뼈대를 구성주요 특징:태그를 사용하여 문서 구조 정의 (, ,  등)하이퍼링크를 통해 다른 페이지로 연결 가능텍스트, 이미지, 비디오 등 다양한 콘텐츠 포함 가능2. CSS (Cascading Style Sheets)정의: 웹 페이지의 디자인과 레이아웃을 담당하는 스타일 시트 언어역할: HTML 요소들의 시각적 표현을 정의주요 특징:색상, 크기, 여백, 배치 등 스타일 지정반응형 디자인 구현 가..

클로드의 아티팩트(Artifacts) 기능 설명아티팩트란 무엇이며, 어떻게 사용하나요?아티팩트는 클로드가 독립적이고 완결된 콘텐츠를 별도의 창에서 제공하는 기능입니다.주 대화창과 분리되어 중요한 콘텐츠를 쉽게 수정, 발전, 또는 참조할 수 있도록 도와줍니다.클로드가 아티팩트를 생성하는 경우:독립적이고 완결된 콘텐츠일 때: 보통 15줄 이상의 중요한 내용.편집, 반복 작업, 재사용 가능성이 높은 콘텐츠일 때.대화 맥락 없이도 독립적으로 이해 가능한 복잡한 콘텐츠일 때.향후 참조나 재사용 가능성이 높은 경우.주요 예시:문서 (Markdown 또는 Plain Text)코드 스니펫웹사이트 (단일 HTML 페이지)벡터 그래픽(SVG)다이어그램 및 플로우차트인터랙티브 React 컴포넌트아티팩트로 구현할 수 있는 주..

클로드 프로젝트기능에 대한 설명을 정리해보았습니다.  https://support.anthropic.com/en/articles/9519177-how-can-i-create-and-manage-projects How can I create and manage Projects? | Anthropic Help Center support.anthropic.com  프로젝트 생성 및 관리 방법프로젝트는 Claude for Work 및 Claude Pro 요금제 사용자들에게 제공된다.프로젝트 생성 방법프로젝트 섹션으로 이동계정의 왼쪽 메뉴로 커서를 이동하면 프로젝트 섹션에 접근할 수 있다."프로젝트 생성" 클릭해당 버튼을 클릭하여 프로젝트를 시작한다.프로젝트 이름 및 설명 입력프로젝트의 이름과 설명을 설정한다. ..

안녕하세요,  이번 시리즈의 글들은 LLM의 동작들에 대해 궁금한 점들을 LLM들과 문답으로 풀어가는 과정을 기록하고자 합니다. 비록 완전히 정확하지는 않겠지만 일반인들이 이해하는 수준에서는 도움이 되지 않을까 생각합니다. 되도록 hallucination이 발생하지 않도록 주의를 기울여 작성해보겠습니다.  transformer가 무엇인지 궁금해서 알아보던 과정에 아래와 같은 궁금한 점이 생겼습니다. 최신 초대형 언어 모델인 Claude 3.5 Sonnet은 어떻게 200,000 토큰이라는 방대한 컨텍스트 윈도우를 효율적으로 처리할 수 있을까? 특히 기존 Transformer 아키텍처의 제한사항을 어떻게 극복하였나? 또한 추가적으로 이어서 생기는 저의 궁금함들은 다음과 같습니다.  계산 효율성"200K ×..

Attention 알고리즘을 단계별로 쉽게 개념적으로 알아보겠습니다:기본 개념Attention은 입력 시퀀스의 각 요소들 간의 관련성을 계산하는 메커니즘입니다"모든 입력을 고려하되, 중요한 것에 더 주목한다"는 개념입니다주요 구성 요소Query (Q): 현재 처리 중인 위치의 벡터Key (K): 다른 위치들의 벡터Value (V): 실제 정보를 담고 있는 벡터작동 과정 a. 각 입력 단어를 벡터로 변환 b. Query와 Key 사이의 유사도 점수 계산 c. Softmax 함수로 점수를 확률로 변환 d. 확률을 Value에 곱하여 가중치 적용 e. 가중치가 적용된 Value들을 합산수식으로 표현 Attention(Q, K, V) = softmax(QK^T/√d_k)Vd_k: 스케일링 팩터(Key의 차원)√..