Nelly se dio a conocer ante el público en el 2000 con el álbum Country Grammar, con el que arrasó las listas de todo el país. Con St. Lunatics, grabó en 2001 el álbum Free City. Su siguiente álbum, Nellyville, en 2002, le consagró como uno de los raperos más populares del momento, arrollando una vez más en ventas.

En 2002, el single «Hot In Herre» fue tremendamente popular, seguido de «Dilemma», con la colaboración de Kelly Rowland. Ese año se llevó dos premios Grammy.

Al año siguiente, en 2004, Nelly ganó su tercer Grammy con el single número 1 «Shake Ya Tailfeather». El 14 de septiembre de 2004 Nelly lanzó dos álbumes simultáneamente, Sweat y Suit. Suit, un álbum orientado al R&B, debutó #1 en las listas de álbumes de Billboard, Suit, un álbum más rapero, debutó #2 en la misma semana.

Nelly también ha tenido disputas y rivalidades con la leyenda del rap KRS-One. Durante la pelea lírica que mantuvieron, Nelly le acusó de ser un rapero pasado de fecha, viejo y cansado, mientras que KRS le llamó artista de pop. Muchos creen que KRS-One vencería fácilemente técnica y líricamente a Nelly, mientras que otros creen que Nelly le superó por el hecho de vender más discos que él y estar activo en el mundo de la música.