Delapan tahun setelah film pertamanya, Johnny English diketahui menjalani pelatihan di sebuah biara di Tibet untuk memulihkan diri dari rasa malu akibat kegagalan misinya melindungi presiden Mozambik yang baru terpilih. Kegagalan itu bahkan membuat gelar kebangsaannya dicabut.

Namun, English akhirnya dipanggil kembali bertugas oleh direktur baru MI7, Pamela 'Pegasus' Thornton, untuk menyelidiki rencana pembunuhan terhadap perdana menteri China saat pertemuan penting dengan Perdana Menteri Inggris. Dalam misi ini, ia bertemu sesama agen Simon Ambrose, kepala perlengkapan MI7 Patch Quartermain, serta agen muda Colin Tucker yang ditugaskan menjadi asistennya.

Di Hong Kong, English berhasil menemukan mantan agen CIA bernama Titus Fisher. Dari Fisher, ia mengetahui adanya kelompok bernama Vortex yang bertanggung jawab atas sabotase misi di Mozambik. Vortex diketahui memiliki senjata rahasia yang hanya bisa diaktifkan dengan tiga kunci, masing-masing dipegang oleh Fisher dan dua orang lainnya.

Namun, Fisher kemudian dibunuh oleh seorang pembunuh perempuan lanjut usia yang menyamar sebagai petugas kebersihan, sementara kaki tangannya mencuri kunci tersebut. English sempat merebut kembali kunci itu, tetapi kembali kehilangannya ketika seorang kaki tangan lain yang menyamar sebagai pramugari mencurinya saat perjalanan menuju London.

Nasib apes English berlanjut saat ia dipermalukan dalam rapat bersama Menteri Luar Negeri dan Pegasus ketika mencoba mempresentasikan kunci serta teori konspirasinya. Kekacauan makin menjadi ketika ia malah menyerang ibu Pegasus di sebuah pesta anak-anak karena mengira perempuan itu adalah si pembunuh berkedok petugas kebersihan.

Kate Sumner, psikolog perilaku MI7, kemudian menggunakan hipnosis untuk membantu English mengingat kembali memori yang selama ini ia tekan tentang insiden di Mozambik. Dari situ terungkap bahwa salah satu anggota Vortex lainnya adalah mantan agen KGB Rusia sekaligus mantan rekan MI7 yang membelot, Artem Karlenko, yang kini menyamar sebagai miliuner bernama Sergei Pudovkin.

English dan Tucker lalu menemui Karlenko di sebuah lapangan golf di luar London. Namun, di tengah permainan, si pembunuh berkedok petugas kebersihan datang dan melukai Karlenko secara kritis. English dan Tucker pun membawa Karlenko ke rumah sakit menggunakan helikopter, tetapi pria itu tewas setelah sempat membocorkan informasi penting bahwa kunci ketiga ternyata dipegang oleh seorang mata-mata dalam tubuh MI7 sendiri.