読む
Multi-color highlights, margin notes, and live presence — built for deep reading sessions.
PDF
Attention is All You NeedVaswani et al. · p.42 / 156
ED
SK
+2
ED
EdwardKey insight — link to Section 5
すべてがつながるワークスペース 研究を進める。
深く読み、アイデアをつなぎ、知識を自分のものに。
論文、ノート、AIを、ひとつの落ち着いた空間に。
操作できる製品プレビュー · サンプル内容は英語です
Example document
Highlight Section
Translate: Workdocs enables you to translate content from multiple languages into a single target language of your choice.
Currently, we support translations in over 100 languages with fast, reliable performance.
Highlight
Copy
Translate
Ask chatbot ↘
Multiple Models Support
GPT-4.1 mini
Gemini 2.0 Flash
DeepSeek V3
Incoming Features
Search Browser
Browse and search the web
Ready
Deep Research
Advanced research tools
Incoming
WorkDocs Canvas
Visual workspace for docs
Incoming
Ask the PDF anything that you need
最初の問いから、次の発見まで。
Trusted by researchers from some of the best institutions in the world.
ひとつの場所にすべてを
読書もノートもAIも、ひとつのワークスペースでつながります。
文書の閲覧とハイライト
PDFを読みながら、ハイライトや注釈、色付きのマーカーを追加できます。
分割表示、キーボードショートカット、色分けされたハイライトで、じっくり読み込めます。
これらをひとつに
ノートシステム
チェックリスト、ブロック、付箋を使って、アイデアをすっきりと記録できます。
ノートを出典ページにつなぎ、テーマ別に整理して、すぐに検索できます。
これらをひとつに
AIナレッジベース
すべての文書を対象に質問できる、あなた専用のAI研究アシスタント。
ファイル、ノート、ハイライトを参照し、文脈を踏まえた回答を出典付きで提供します。
これらをひとつに
12 highlights · 4 notes
Ch. 3 of 8
AT
Attention Is All You NeedVaswani et al. · NeurIPS 2017 · p. 3
The Transformer relies entirely on self-attention to compute representations of its input and output without using sequence-aligned RNNs or convolution, enabling significantly more parallelization.
Architecture
Key claim
ME
My margin note · Ch. 22h ago · synced
Insight
Multi-head attention lets the model attend to information from different representation subspaces. Each head learns a distinct projection — together they capture syntactic and semantic patterns in parallel.
Pinned quote
Exam-worthy
p. 12“Attention is all you need — recurrence and convolutions are not required for state-of-the-art sequence transduction.”
Research — TransformersUpdated 5 min ago · 4 backlinks
Linked to PDF
Goal: understand why attention beats RNNs for long-range dependencies — prep for Friday seminar.
Read Section 3 — Model architecture
Highlight key equations (Q, K, V)
Sketch encoder-decoder diagram
Write 200-word summary in own words
Add 5 flashcards to Anki deck
STICKY NOTEPinned
Compare encoder-decoder attention vs self-attention — could be a great blog post. Reference Bahdanau (2014) as the historical anchor.
Lecture notes — Mar 12CS 224N · Stanford
Auto-synced
Prof. Tanaka emphasized that positional encoding is critical since attention has no inherent order. Sin/cos works because relative positions become linear functions of the encoding vector.
PE(pos, 2i) = sin(pos / 10000^(2i/d))
What does the paper say about scaling self-attention beyond 512 tokens, and how does it compare to Longformer's sliding window?
3 sources
My library
The Work Docs AI
Synthesis · 3 docs
StreamingVanilla self-attention has O(n²) memory and compute complexity, which makes contexts beyond 512 tokens impractical on standard GPUs. Three approaches dominate the literature:
Longformer — sliding window of 512 + global tokens → O(n)
Performer — kernel approximation with random features
FlashAttention — exact, but IO-aware tiling for speed
From your highlights: “the dot-product becomes the bottleneck above 1k tokens” — matches Vaswani §3.2.
Vaswani · p.6
Beltagy · p.3
Dao · p.2
My notes · Ch. 3
Ask anything…
あなたの研究と学習を支えるAIアシスタント
The Work Docsが学習の流れを理解し、資料の整理、論文の要約、出典付きの回答探しをサポートします。
To Read
Attention Is All You Need
NeurIPS 2017 — 12 pages
V
VaswaniBERT Pre-training
NAACL 2019 — 16 pages
D
DevlinReviewed
Drop here
Attention Is All You Need
NeurIPS 2017 — 12 pages
V
VaswaniWhat did the author say about transformers?
Vaswani et al.Author · Google Brain
Attention Is All You NeedPDF · 12 pages
My highlights — Ch. 3Note · Updated 2h ago
Summarize Paper
Generate Notes
Find Citations
Translate Document
ノートを書き出す
Ask anything…
Skills
読む資料を整理
未読、読書中、確認済みの段階ごとに論文を整理できます。
すべての資料を横断検索
ひとつの検索欄から著者、論文、自分のノートを探せます。
ワンクリックでAIを活用
文書を開いたまま、要約、クイズ、翻訳ができます。
研究ツールがつながるワークスペース
資料を理解するチャット、集中できるリーダー、出典ページにつながるノート。研究に必要なものがそろっています。
💬
AIチャットボット
ライブラリ全体に質問。PDF、ノート、ハイライトのページ引用付きで回答をリアルタイム表示。
📓
スマートノート
出典ページにつながるブロック型ノート。バックリンク、チェックリスト、付箋も検索可能。
🖍️
ハイライトと注釈
色分けハイライト、余白メモ、固定引用をノートに自動同期。
❓
クイズ生成
近日公開章をフラッシュカードや選択式クイズに変換。記憶と習熟度を確認。
🔖
引用検索
ライブラリの関連箇所を見つけ、引用をノートへドラッグ。
Summarize paper
One-click TL;DR with key claims and methods.
Translate doc
Translate any PDF into 30+ languages.
Extract figures
Pull figures, tables, and equations to notes.
Compare papers
Side-by-side compare methods and results.
Generate flashcards近日公開
Auto-create Anki-ready cards from highlights.
Outline writer
Build paper outlines from your sources.
Define term
Inline definitions sourced from your library.
Find related
Surface related papers and notes by topic.
Export bibliography
BibTeX, RIS, or formatted APA / MLA.
Pull quotes
Extract highlighted quotes into a digest.
Knowledge recall
Resurface key facts marked weeks ago.
Smart highlight
AI suggests the lines worth highlighting.
読書、ノート、ハイライトから広がるつながり
Every paper, quote, and idea — connected into one knowledge graph. Find anything by following the links.
すべての資料がつながる
PDFs, notes, highlights, and AI chats — all linked into one workspace.
整理されたハイライト
Page-level citations, colors, and tags organize every quote you save.
自分だけのノートブック
Group papers, ideas, and drafts your way — model any research workflow.
ひとつのグラフ
Follow the links between notes and sources. Search once, find everything.
あなたの成長とともに
Whatever stage of your work — from first read to final draft — The Work Docs grows with your workflow.
AIチャット
Ask anything across your library. Streamed answers with page-level citations every time.
Compare results in Section 4?
THE WORK DOCS
Recall improved 18% over baselineVaswani p.42, but precision dropped slightlyDevlin p.7.3 sources
Ask anything…
研究する
Find related papers, cross-reference quotes, and build a citation web automatically.
SOURCE
cited by 248
92% match
78% match
書く
Block-style notes, AI suggestions, and drag-drop citations from every source you own.
AI
ED
SK
SavedH1
Smith 2024
💡
H2
📊
fig-3.png— Vaswani et al., p.42
Cite Devlin 2018Tab
342 words · 2 citationsSynced 2s ago
書き出す
One click to Markdown, Notion, BibTeX, Drive — formatting, links, and sources preserved.
NotesBib
Markdown.md
ReadyNotionワークスペース
SyncedDrive.docx
ReadyBibTeX.bib
24 refsSyncing 4 destinations…
学ぶ
近日公開Auto flashcards, quizzes, and spaced recall — track mastery and keep your streak.
7-day streak
3 / 12QUESTION
What is multi-head attention?
Answered correctly · 92%
ユーザーの声
文書の扱い方を変えた、数千人のユーザーの仲間に加わりましょう
レビューは英語の原文から翻訳しています。
こんなドキュメントリーダーをずっと探していました。シンプルでとても効果的で、作業を順調に進められます。使い始めてから生産性が大きく上がりました。
Megan Torres
神経科学博士課程 · UCLA
文書検索が本当に便利です。ストレスのない使い心地のおかげで、毎日このアプリを使っています。仕事の進め方が変わりました。
James Whitfield
法学准教授 · NYU
山ほどの研究論文を読む必要がある中で、驚くほどシンプルなのに、集中力をこれほど支えてくれることに感動しています。とても気に入っています。
Camille Rousseau
医学部3年生 · McGill
The Work Docsを使うようになって、以前より多くの仕事をこなせるようになりました。研究論文をすべてひとつの場所に整理できて、本当に助かっています。
Arjun Mehta
シニアリサーチアナリスト · McKinsey
大量の判例資料や課題がある私に、まさに必要だったものです。PDFのハイライトや注釈で膨大な時間を節約できました。
Hannah Yoo
コンピューターサイエンス・法学準備課程 · Stanford University
AI機能は本当に画期的です。文書とチャットして、すぐに要約を得られることで、仕事の進め方が変わりました。
Marcus Bell
戦略コンサルタント · Deloitte
毎日契約書を確認しています。The Work Docsなら長いPDFも簡単に読み進められます。AI要約機能で大幅に時間を節約できます。
Nadia Osei
ジュニアアソシエイト · Clifford Chance
ようやく作業の邪魔をしないアプリに出会えました。すっきりしたUIで速く、検索も驚くほど強力です。チームの開発者全員におすすめしています。
Kenji Nakashima
ソフトウェアエンジニア · Stripe
難解な技術論文を扱う私にとって、このアプリは本当に頼りになる存在です。AIチャットで複雑な内容をより速く理解できます。
Priya Nair
機械学習エンジニア · Google DeepMind
チーム全体でデューデリジェンスに使っています。これほど簡単に共同作業ができたことはありません。全員が認識を合わせて集中できるワークスペースです。
Lucas Ferreira
共同創業者・CEO · Fundo
こんなドキュメントリーダーをずっと探していました。シンプルでとても効果的で、作業を順調に進められます。使い始めてから生産性が大きく上がりました。
Megan Torres
神経科学博士課程 · UCLA
文書検索が本当に便利です。ストレスのない使い心地のおかげで、毎日このアプリを使っています。仕事の進め方が変わりました。
James Whitfield
法学准教授 · NYU
山ほどの研究論文を読む必要がある中で、驚くほどシンプルなのに、集中力をこれほど支えてくれることに感動しています。とても気に入っています。
Camille Rousseau
医学部3年生 · McGill
The Work Docsを使うようになって、以前より多くの仕事をこなせるようになりました。研究論文をすべてひとつの場所に整理できて、本当に助かっています。
Arjun Mehta
シニアリサーチアナリスト · McKinsey
大量の判例資料や課題がある私に、まさに必要だったものです。PDFのハイライトや注釈で膨大な時間を節約できました。
Hannah Yoo
コンピューターサイエンス・法学準備課程 · Stanford University
AI機能は本当に画期的です。文書とチャットして、すぐに要約を得られることで、仕事の進め方が変わりました。
Marcus Bell
戦略コンサルタント · Deloitte
毎日契約書を確認しています。The Work Docsなら長いPDFも簡単に読み進められます。AI要約機能で大幅に時間を節約できます。
Nadia Osei
ジュニアアソシエイト · Clifford Chance
ようやく作業の邪魔をしないアプリに出会えました。すっきりしたUIで速く、検索も驚くほど強力です。チームの開発者全員におすすめしています。
Kenji Nakashima
ソフトウェアエンジニア · Stripe
難解な技術論文を扱う私にとって、このアプリは本当に頼りになる存在です。AIチャットで複雑な内容をより速く理解できます。
Priya Nair
機械学習エンジニア · Google DeepMind
チーム全体でデューデリジェンスに使っています。これほど簡単に共同作業ができたことはありません。全員が認識を合わせて集中できるワークスペースです。
Lucas Ferreira
共同創業者・CEO · Fundo
AI機能は本当に画期的です。文書とチャットして、すぐに要約を得られることで、仕事の進め方が変わりました。
Marcus Bell
戦略コンサルタント · Deloitte
毎日契約書を確認しています。The Work Docsなら長いPDFも簡単に読み進められます。AI要約機能で大幅に時間を節約できます。
Nadia Osei
ジュニアアソシエイト · Clifford Chance
ようやく作業の邪魔をしないアプリに出会えました。すっきりしたUIで速く、検索も驚くほど強力です。チームの開発者全員におすすめしています。
Kenji Nakashima
ソフトウェアエンジニア · Stripe
難解な技術論文を扱う私にとって、このアプリは本当に頼りになる存在です。AIチャットで複雑な内容をより速く理解できます。
Priya Nair
機械学習エンジニア · Google DeepMind
チーム全体でデューデリジェンスに使っています。これほど簡単に共同作業ができたことはありません。全員が認識を合わせて集中できるワークスペースです。
Lucas Ferreira
共同創業者・CEO · Fundo
こんなドキュメントリーダーをずっと探していました。シンプルでとても効果的で、作業を順調に進められます。使い始めてから生産性が大きく上がりました。
Megan Torres
神経科学博士課程 · UCLA
文書検索が本当に便利です。ストレスのない使い心地のおかげで、毎日このアプリを使っています。仕事の進め方が変わりました。
James Whitfield
法学准教授 · NYU
山ほどの研究論文を読む必要がある中で、驚くほどシンプルなのに、集中力をこれほど支えてくれることに感動しています。とても気に入っています。
Camille Rousseau
医学部3年生 · McGill
The Work Docsを使うようになって、以前より多くの仕事をこなせるようになりました。研究論文をすべてひとつの場所に整理できて、本当に助かっています。
Arjun Mehta
シニアリサーチアナリスト · McKinsey
大量の判例資料や課題がある私に、まさに必要だったものです。PDFのハイライトや注釈で膨大な時間を節約できました。
Hannah Yoo
コンピューターサイエンス・法学準備課程 · Stanford University
AI機能は本当に画期的です。文書とチャットして、すぐに要約を得られることで、仕事の進め方が変わりました。
Marcus Bell
戦略コンサルタント · Deloitte
毎日契約書を確認しています。The Work Docsなら長いPDFも簡単に読み進められます。AI要約機能で大幅に時間を節約できます。
Nadia Osei
ジュニアアソシエイト · Clifford Chance
ようやく作業の邪魔をしないアプリに出会えました。すっきりしたUIで速く、検索も驚くほど強力です。チームの開発者全員におすすめしています。
Kenji Nakashima
ソフトウェアエンジニア · Stripe
難解な技術論文を扱う私にとって、このアプリは本当に頼りになる存在です。AIチャットで複雑な内容をより速く理解できます。
Priya Nair
機械学習エンジニア · Google DeepMind
チーム全体でデューデリジェンスに使っています。これほど簡単に共同作業ができたことはありません。全員が認識を合わせて集中できるワークスペースです。
Lucas Ferreira
共同創業者・CEO · Fundo
こんなドキュメントリーダーをずっと探していました。シンプルでとても効果的で、作業を順調に進められます。使い始めてから生産性が大きく上がりました。
Megan Torres
神経科学博士課程 · UCLA
文書検索が本当に便利です。ストレスのない使い心地のおかげで、毎日このアプリを使っています。仕事の進め方が変わりました。
James Whitfield
法学准教授 · NYU
山ほどの研究論文を読む必要がある中で、驚くほどシンプルなのに、集中力をこれほど支えてくれることに感動しています。とても気に入っています。
Camille Rousseau
医学部3年生 · McGill
The Work Docsを使うようになって、以前より多くの仕事をこなせるようになりました。研究論文をすべてひとつの場所に整理できて、本当に助かっています。
Arjun Mehta
シニアリサーチアナリスト · McKinsey
大量の判例資料や課題がある私に、まさに必要だったものです。PDFのハイライトや注釈で膨大な時間を節約できました。
Hannah Yoo
コンピューターサイエンス・法学準備課程 · Stanford University
よくある質問
疑問にお答えします