Mario ist zur Burg eingeladen, aber als er ankommt, ist Peach nirgends zu sehen. Schon bald erfährt er von Toad, dass Bowser sie erneut entführt hat. Die Koopa-Kinde hat auch ihr Schloss in einen Bann gezogen und ihre Untertanen eingesperrt. Es liegt also an Mario, den Bann zu brechen und Peach zu retten.
Super Mario 64 ist das erste Mario-Spiel, das komplett mit 3D-Grafiken gemacht wurde. Das Kernspiel ähnelt früheren Plattform-Raten, die sich auf das Springen, das Vermeiden von Hindernissen und das Vereiteln von Feinden konzentrieren. Levels können ohne zeitliche Grenzen erkundet werden. Sterne müssen gesammelt werden, um neue Gebiete freizuschalten und schließlich Zugang zu verschiedenen Teilen von Bowsers Burg zu erhalten. Beugend Bowser auf jeder Etage beschafft Schlüssel, die notwendig sind, um große Türen zu entriegeln und andere Etagen zu betreten, die mehr Bereiche enthalten.
Mario hat in dieser Ausgabe mehr Züge zur Verfügung. Neben Laufen und Springen kann er jetzt gehen, hocken, krabbeln, klettern und Feinde schlagen. Doppel- und Dreifachsprünge, Weitsprünge, Wandsprüngen und Backflips können ebenfalls ausgeführt werden. Schwimmen unter Wasser verbraucht nun Marios Sauerstoffgehalt. Gegenstände müssen in einigen Fällen aufgegriffen und getragen werden, um Rätsel zu lösen.
Zu den Power-ups gehören die Wing Cap, die Mario das Flug ermöglicht; die Metallkappe, die ihn vor Schäden schützt (einschließlich Umweltgefahren wie giftigem Gas); und die Vanish Cap, die Mario ätherisch macht und es ihm ermöglicht, durch bestimmte Hindernisse (wie Drahtgeflecht) zu gehen. Mario kann auch in Kanonen einsteigen und von ihnen ausgeschossen werden; die Kombination mit der fesselnden Fähigkeit gewährt Zugang zu hohen Gebieten.