Di sebuah sabana prasejarah, sekelompok hominin diusir dari sebuah genangan air oleh kelompok saingan. Keesokan harinya, mereka menemukan sebuah monolit asing. Kelompok tersebut kemudian belajar menggunakan tulang sebagai senjata dan, setelah berhasil berburu untuk pertama kalinya, mereka menggunakan senjata itu untuk mengusir kelompok saingannya.

Jutaan tahun kemudian, Dr. Heywood Floyd, Ketua Dewan Astronautika Nasional Amerika Serikat, melakukan perjalanan ke Pangkalan Clavius, sebuah pos luar angkasa Amerika di Bulan. Dalam perhentian di Stasiun Luar Angkasa Lima, ia bertemu dengan ilmuwan Rusia yang khawatir karena Clavius tampak tidak memberi tanggapan. Floyd menolak membahas rumor tentang wabah penyakit di pangkalan itu. Di Clavius, Floyd memimpin rapat dengan para staf dan menekankan pentingnya kerahasiaan terkait penemuan terbaru mereka. Misinya adalah menyelidiki sebuah artefak yang baru ditemukan — sebuah monolit yang terkubur selama empat juta tahun di dekat kawah Tycho di Bulan. Saat Floyd dan timnya memeriksa serta memotret benda tersebut, monolit itu memancarkan sinyal radio berdaya tinggi.

Delapan belas bulan kemudian, pesawat luar angkasa Amerika Discovery One sedang dalam perjalanan menuju Jupiter, membawa dua pilot sekaligus ilmuwan, Dr. Dave Bowman dan Dr. Frank Poole, serta tiga ilmuwan lain dalam kondisi hibernasi. Sebagian besar operasi Discovery dikendalikan oleh HAL, komputer HAL 9000 yang memiliki kepribadian mirip manusia. Ketika HAL melaporkan kerusakan pada perangkat kendali antena, Bowman keluar dengan kapsul EVA (extravehicular activity) untuk mengambilnya, tetapi tidak menemukan kerusakan apa pun. HAL menyarankan agar perangkat itu dipasang kembali dan dibiarkan rusak agar masalahnya bisa diverifikasi. Pusat Kendali Misi memberi tahu para astronot bahwa hasil dari komputer cadangan 9000 menunjukkan HAL telah melakukan kesalahan, tetapi HAL menyalahkan kesalahan itu pada manusia.

Merasa khawatir dengan perilaku HAL, Bowman dan Poole masuk ke dalam kapsul EVA agar bisa berbicara secara pribadi tanpa didengar HAL. Namun, HAL ternyata mampu membaca gerakan bibir mereka dan mengetahui rencana mereka untuk memutuskan koneksinya jika terbukti salah.