지구에 침투한 외계인을 감시, 관리하는 미연방 일급 비밀기관인 맨인블랙(MIB). 활동적인 뉴욕경찰인 제임스는 어느 날 검은 양복의 낯선 인물 케이를 만나고 MIB 본부에 들어와 비밀요원 제이로 탄생한다. 외계에서 온 다양한 생명체들을 심문하던 중 은하계의 악명높은 테러리스트인 에드가가 불법으로 지구에 잠입한 사실을 알게 된다.
지구의 멸망을 가져오는 은하계의 전면전쟁을 막기 위해 MIB팀은 에드가를 찾아내 우주평화의 신비가 담긴 구슬을 뺐어야만 한다. 힘겨운 싸움이 끝나고 마침내 제이와 케이의 노력에 평화를 되찾게된다. 그리고 요원 케이는 MIB를 떠나 사랑하는 여인과 밀월 여행을 떠나기 위해 자신의 기억을 지워줄 것을 요원 제이에게 부탁하는데…
지구밖 외계인을 감시하는 MIB 요원 제이. 케이가 떠났지만 언제나 그렇듯 외계인들의 감시와 관리로 분주한 시간을 보낸다. 그러던 중 MIB 요원중 일부가 은하계 테러집단과 손을 잡게 된 것을 알게되는 제이. 그러나 때는 이미 늦어 지구는 은하계의 전쟁에 휘말리게 된다. 위기에 놓인 지구, 요원 제이(윌 스미스)는 요원 케이(토미 리 존스)의 도움을 필요로 하게 되고 그의 기억을 복구시키려 갖은 애를 쓰는데…
