딥러닝 분석가 가리

"Self-Supervised Hypergraph Convolutional Networks for Session-based Recommendation"Abstract  Session-based recommendation (SBR)은 특정한 시점의 다음을 예측하는데 초점을 맞춘다. 사용자의 프로필은 일반적으로 이러한 시나리오에서 활용가능하지 않기 때문에, 아이템 전환에 놓여있는 사용자의 의도를 파악하는것이 중요하다. 최근 graph nerual networks (GNN) 기반의 SBR 방법은 아이템 전환을 아이템의 정보를 따라서 복잡한 고차원 전환을 무시하는 pairwise 관계로 보장한다. Hypergraph는 beyond-pairwise 관계를 capture 하기 위한 자연스러운 방법을 제공하는 반면,..

"Activating More Pixels in Image Super-Resolution Transformer " Abstract Transformer 기반의 image super-resolution 같은 low-level vision task는 좋은 성능을 보였다. 하지만, Transformer 기반의 네트워크는 attribution 분석을 통해 제한된 공간 범위의 입력 정보만 사용한다. 이러한 것은 transformer의 잠재력이 여전히 기존 네트워크에 비해 완전히 활용되지 않는다는것을 의미한다. 그래서 더 많은 입력 픽셀을 활성화 하기 위해 HAT(Hybrid Attention Transformer)를 제안한다. HAT는 CA(Channel Attention)과 self-attention을 결합해 ..

"CSPNET : A NEW BACKBONE THAT CAN ENHANCE LEARNING CAPABILITY OF CNN" Abstract Nerual network는 computer vision에서 엄청난 성과를 나타낼수 있게 한다. 하지만, 몇몇의 성과들은 높은 컴퓨팅 자원을 요구한다. 그래서, 본 논문에서는 모델들이 테스트시 많은 자원이 필요하다는 문제점을 완화하기 위해 CSPNet(Cross Stage Partial Network)을 제안한다. 자원이 많이 필요하다는 문제를 네트워크 최적화 내의 중복된 gradient 정보 탓으로 생각한다. 제안된 네트워크는 네트워크의 시작과 끝에서 feature map을 통합해 gradient의 가변성을 존중한다. 실험에서는 연상량을 20%나 줄였지만 성능은 ..

"Non-local Neural Networks" Abstract Convolutional과 반복적인 연산은 한 번에 하나의 지역(one local neighborhood)을 처리하는 building block이다. 본 논문에서는 장거리 의존성을 알기 위한 일반적인 family of building blocks인 non-local 연산을 제안한다. Computer vision의 고전적인 non-local means method에 영감을 받아, non-local operation은 모든 위치에서 feature의 가중치 합으로 각 위치에서의 response(반응)을 계산한다. 이러한 building block은 많은 computer vision의 구조에 더할수 있다. Video classification 에..

Meta-Transfer Learning for Zero-Shot Super-Resolution Abstract CNN은 large-scale external smaples를 사용한 SISR(Single Image Super Resolution)에서 좋은 성능을 보였다. External 데이터셋에 기반한 성능은 뛰어날 지라도, specific image의 internal information을 알수 없고, supervised에서 경험한 특정한 조건의 데이터에만 적용할 수 있다. 이러한 문제를 해결하기위해 ZSSR(Zero Shot Super-Resolution)이 제안되었지만, 추론시간이 길다는(몇천번의 gradient 업데이트가 필요) 단점이 있다. 본 논문에서는 MZSR(Meta-Transfer Le..

"Zero-Shot" Super-Resolution using Deep Internal Learning Abstract 지난 몇년동안 Deep Learning은 SR(Super-Resolution, 초고해상도)에서 뛰어난 성능을 보여주었다. 하지만, 지도학습 기반의 SR 방법은 특정한 데이터셋에서만 제한적이다. HR(High-Resolution) 이미지로 부터 bicubic dwonscaling 방법과 같은 미리 정해진 방법으로 LR(Low-Resolution) 이미지 획득한다. 실제 LR 이미지는 위와 같은 방법을 따르는 경우는 드물기 때문에, SOTA 방법을 적용하면 SR의 결과가 좋지 않다. 그래서 "Zero-Shot" SR 방법을 소개한다. Deep Learning에 의존하지만, 사전 학습된 것에..