1. 텐서
텐서 - 파이토치의 기본 단위, GPU 연산을 가능하게 함. - 또한 Numpy의 배열과 유사하여 Numpy를 공부한 사람이라면 손쉽게 다룰 수 있음. 1. empty, ones, empty, zeros import torch import numpy as np x = torch.empty(5,4) print(x) tensor([[1.8515e+28, 1.7744e+28, 5.3831e-14, 1.8037e+28], [6.7120e+22, 2.8231e+23, 7.1377e+31, 5.3740e+19], [1.8888e+31, 1.9011e-19, 1.2711e+31, 4.2321e+21], [4.5581e+30, 1.1725e-19, 5.0746e+31, 7.5338e+28], [2.8884e+12, 7..
8-1 장. sentence-BERT
1. Sentence-BERT - BERT의 파생 모델로, 주로 문장 표현을 계산하는데 사용된다. - 기존의 BERT 모델에서 문장의 표현을 얻기 위해서는 막대한 추론 시간이 걸린다. - 본 논문에서는 10,000개의 문장 모음에서 BERT 모델을 사용해서 가장 유사한 쌍을 찾으려면 최대 65시간이 필요하다 라고 하였다. - sentence-BERT를 사용하게 된다면 추론 시간은 크게 줄어들게 될것이다. 1.1 문장 표현 계산 - 기존의 문장 표현을 계산하는 방법을 생각해 보자 - 주어진 문장 'She cooked pasta. It was delicous'라는 문장을 예로 들어보자. tokens = [ [CLS], She, cooked, pasta, [SEP], It, was, delicous, [SEP..