Aidan Gomez
CEO & medgrundare, Cohere
Attention Is All You Need
Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan Gomez, Łukasz Kaiser, Illia Polosukhin
NeurIPS 2017145000 citeringar
Publicerad:2017-06-12Publicerad i:NeurIPS 2017Citeringar:145000
Varför den är viktig
Forskningsartikeln som uppfann Transformer-arkitekturen — grunden för alla moderna stora språkmodeller inklusive GPT, Claude, Gemini och LLaMA. Artikeln föreslog en ny nätverksarkitektur baserad enbart på attention-mekanismer, utan rekurrens eller konvolutioner, och visade överlägsna resultat på maskinöversättning. Denna artikel har förändrat hela AI-fältet.
Författare
Personer i Framtiden AI:s kunskapsgraf vars namn matchar publikationens författarlista.
Ämnen
Ämnesetiketter är beskrivande tills publikationsarkivet stöder stabil filtrering.
TransformerAttentionNLPGrundläggande forskning