La película comienza con la fuga de un extraño y poderoso extraterrestre llamado Boris el animal. Es el último superviviente de la raza alienígena boglodita, que sobrevive mediante el ataque, toma, y ocupación de otros planetas habitados. Boris es un asesino, que fue capturado por el agente K y encarcelado en una prisión secreta en la Luna. K también pudo desplegar un sistema de defensa (denominado "Arca Net"), y evitar una invasión boglodita, logrando así su extinción. Sin embargo, Boris logra burlar la seguridad y destruir gran parte de la cárcel, para escapar y vengarse de K.

Después del abandono del agente K (Tommy Lee Jones), el agente J (Will Smith) no considera su trabajo igual: Ambos formaban parte de un organismo secreto que lucha contra los extraterrestres que, sin que el resto de los mortales lo sepan, pueblan la Tierra. La misión de los hombres de negro, como se les conoce por sus atuendos, es, en ocasiones imponer el orden y en otras luchar directamente contra quienes tienen pretensiones de hacer daño al planeta Tierra. Pero el agente K prefirió perder la memoria para volver con su esposa y llevar una vida normal. Ahora no hay esposa pero es un amable agente de correos. El agente J, que considera a K como su maestro, le echa mucho de menos y no termina de adaptarse a sus nuevos compañeros. Pero algo va a cambiar los acontecimientos: una peligrosa extraterrestre llamada Serleena (Lara Flynn Boyle)

Durante muchos años los extraterrestres han vivido en la Tierra, mezclados con los humanos, sin que nadie lo supiese. Los Hombres de Negro son unos agentes, pertenecientes a una asociación altamente secreta del gobierno, encargados de controlar a los alienígenas. Ahora dos de estos agentes, uno veterano y otro recién incorporado, y que tienen como misión vigilar a los alienígenas que habitan en la ciudad de Nueva York, descubren a un terrorista galáctico que pretende acabar con la humanidad.