Rumores de uma nova versão do iPod começaram a espalhar-se quando a Toshiba anunciou que tinha criado um disco rígido cerca de metade do tamanho de um disco usado no iPod. Segundo os rumores, tal iPod custaria cerca de US$ 70 para fabricar, o que permitiria competir com leitores baseados em memória flash que ainda dominavam o mercado.
Durante o discurso de Janeiro 2004 na Macworld Expo, Jobs anunciou várias revisões à linha iPod, todas elas com quebras nos preços. Durante os últimos quinze minutos, ele anunciou que haveria um novo membro da família iPod, o iPod Mini.
O iPod Mini, lançado em Janeiro de 2004, foi a tentativa da Apple de “roubar” mercado a leitores como o Zen Micro da Creative e o Rio Carbon da Digital Networks (todos baseados em memória flash), o iPod Mini possui as mesmas funcionalidades do iPod original, mas não oferece suporte a alguns acessórios de outras empresas. Custando US$ 249, o Mini era mais barato que os leitores disponíveis na altura, e possuía uma capacidade muito superior.

O Mini usava um MicroDrive Flash Compacto ultra-fino como disco rígido, produzido pela Hitachi, possuindo uma capacidade de 4 GB.
O iPod Mini pode ser usado como um HD externo, ideal para fazer o transporte rápido de arquivos de um PC até outro. Para fazer isso é necessário que os dois PCs tenham instalado o software iTunes.
Foi projectado para funcionar em Macintosh e PCs Windows, possui suporte para Linux e outros Unix-like.
Por causa de seu tamanho, os controlos do iPod tiveram que ser reorganizados para caber no Mini. Os botões de funções foram transferidos para a scroll wheel.
O projecto foi descontinuado oficialmente em 7 de Setembro de 2005 e substituído pelo iPod nano.