본문 바로가기

STUDY

(136)
[딥러닝] Transformer란? Transformer는 주로 자연러 처리 분야에서 사용되는 딥러닝 아키텍처로, 시퀀스 데이터의 특성을 잘 캡처하는 트랜스포머 모델입니다. 기존의 순환 신경망RNN과 달리 전적인 self-attention 메커니즘을 사용하여 입력 시퀀스의 모든 위치 간의 상호 작용을 모델링합니다. 주요 구성 요소: 1. Encoder : 입력 시퀀스를 내부 표현으로 변환합니다. 여러개의 층으로 구성되어 있으며, 각 층은 self-attention과 feed-forward neural network로 구성됩니다. 입력 시퀀스의 각 위치에 대해 self-attention을 통해 가중치를 계산하고, 이를 바탕으로 새로운 표현을 생성합니다. 2. Decoder : 출력 시퀀스를 생성하는데 사용됩니다. Encoder와 유사한 구조..
[딥러닝] ResNet이란? 예제 코드 tensorflow, pytorch ResNet은 "Residual Network"의 줄임말로, 딥 러닝 모델의 한 종류입니다. ResNet은 2015년에 발표된 기법으로, 깊은 신경망에서 발생하는 그레디언트 소실 문제를 해결하고, 더 깊은 네트워크를 효과적으로 학습할 수 있도록 도와줍니다. 장점: 깊은 네트워크 학습 가능성: ResNet은 스킵 연결(skip connection)을 사용하여 그레디언트 소실 문제를 완화합니다. 이를 통해 매우 깊은 신경망도 효과적으로 학습할 수 있습니다. 효율적인 학습: ResNet은 학습 과정에서 더 빠르게 수렴할 수 있습니다. 스킵 연결은 정보의 흐름을 원활하게 만들어주고, 그레디언트가 잘 전달되어 경사 하강법의 수렴을 도와줍니다. 정확도 향상: ResNet은 깊은 네트워크를 학습할 수 있어서, 복잡한..
[딥러닝] RNN, LSTM 설명 [RNN] RNN은 Recurrent Neural Network 순환신경망의 약자입니다. RNN은 시퀀스 형태의 데이터, 문자이나 시계열 데이터와 같은 연속적인 데이터를 처리하는 데 주로 사용되는 신경망의 한 종류입니다. RNN은 입력데이터의 이전 상태에 대한 정보를 기억하고 활용하는 반복 구조를 가지고 있습니다. 이전 상태의 정보를 현재 상태로 전달하여 순차적인 데이터의 흐름을 이해하고 처리할 수 있게 됩니다. 이를 통해 RNN은 시퀀스 데이터의 문맥을 파악하고, 다음에 올 데이터를 예측하거나 분류하는 등의 작업을 수행할 수 있습니다. RNN은 주로 자연어 처리, 기계 번역, 문장 생성, 감정 분석 등의 작업에 사용됩니다. RNN은 각 시점마다의 상태를 가지고 있기 때문에 시계열 데이터의 패턴을 학습하..
[알고리즘] 코딩테스트 단골 알고리즘(이진탐색/정렬/그래프탐색) 설명, 예제 코드 코딩 테스트에서 자주 다뤄지는 알고리즘 몇 가지와 간단한 설명 및 예시 코드를 제시하겠습니다 1. 이진 탐색 Binary Search 정렬된 배열에서 특정 값을 찾는 알고리즘 중간 값을 선택하여 찾고자 하는 값과 비교하고 탐색 범위를 반으로 줄여나감 시간 복잡도 : $O(logN)$ 예제 코드 def binary_search(arr, target): left, right = 0, len(arr) - 1 while left
[자료구조] 리스트 list와 딕셔너리 dictionary의 차이점, 장점, 단점, 그리고 예시 코드 리스트는 순서가 중요하고 다양한 타입의 요소를 다룰 때 유용함 반면, 딕셔너리는 키-값 쌍의 관계와 검색이 필요한 데이터를 다룰 때 유용함 적절한 자료구조를 선택하여 데이터를 관리하는 것이 중요 [리스트 list] 리스트는 순서가 있는 요소의 컬렉션 각 요소는 인덱스를 통해 접근할 수 있음 1. 장점 순차적으로 저장되어 검색과 반복 작업이 용이함 다양한 타입의 요소를 포함할 수 있음 2. 단점 검색 속도가 느릴 수 있고, 원소가 많을 경우 성능에 영향을 줄 수 있음 3. 예제 코드 my_list = [1, 2, 3, 'apple', 'banana'] print(my_list[0]) # 1 my_list.append('orange') print(my_list) # [1, 2, 3, 'apple', 'ban..
[머신러닝/딥러닝] feature importance(MDI, Drop Column, Permutation) 각 각에 대한 설명, 코드 [Feature Importance] 머신러닝 모델에서 각 특성(feature)이 예측 결과에 얼마나 영향을 미치는지를 평가하는 지표 어떤 특성이 중요한지를 확인할 수 있으며, 모델 해석과 특성 선택에 유용 여러 방법으로 Feature Importance를 계산할 수 있음 각 각의 방법은 특성 중요도를 계산하기 위해 다른 접근 방식을 사용하며, 실제로는 데이터와 모델에 맞게 적절한 방법을 선택하여 사용하면 됨 [1. MDI (Mean Decrease Impurity)] 의사결정나무 기반 모델에서 사용되는 방법 특성을 기준으로 분기할 때 각 특성이 얼마나 불순도를 감소시키는지를 측정 불순도의 감소가 클수록 해당 특성은 중요한 것으로 간주 from sklearn.ensemble import RandomFor..
[알고리즘] 그리디 알고리즘 교재 : "이것이 취업을 위한 코딩테스트다" 그리디 알고리즘¶ 현재 상황에서 가장 좋아 보이는 것만 선택하는 알고리즘 정확한 답 도출보단 그럴싸한 답을 도출하는데 도움됨 그리디 알고리즘의 정당성을 고민하면서 문제를 해결해야 함연계 알고리즘 : 다익스트라 최단 경로 알고리즘, 크루스칼 알고리즘 거스름돈 p87¶ '가장 큰 화폐 단위부터' 돈을 거슬러 주는 것화폐의 종류가 $K$개라고 할 때, 시간 복잡도 $O(K)$ 아래 알고리즘의 시간 복잡도는 동전의 총 종류에만 영향을 받고, 거슬러 줘야하는 금액의 크기와 무관 In [ ]: x = int(input()) x 1260 Out[ ]: 1260 In [ ]: cash_list = [500, 100, 50, 10] count = 0 for cash in ca..
영어 표현 - 식당 I'd like to make a reservation 예약하고 싶어요 I'd like to put my name on the waiting list. 대기 명단에 이름을 올리고 싶습니다. Is it possible to get a table outside? 야외 테이블에 앉는 게 가능한가요?

728x90