Izraz vjerojatno potječe od ideje o vrlo maloj violini koja proizvodi visok, piskav zvuk koji može zvučati komično ili pretjerano u usporedbi s ozbiljnošću situacije koja se opisuje. To sugerira da govornik vjeruje da je reakcija ili izraz nevolje osobe prenapuhan ili da ne zaslužuje istinsko suosjećanje.
Kad netko kaže da "svira najmanju violinu" za drugu osobu, u biti kaže da smatra da je tužba ili nesreća te osobe nevažna ili čak zabavna. To je način odbacivanja nečijih briga ili problema bez pokazivanja stvarnog suosjećanja ili razumijevanja.
Važno je napomenuti da se korištenje ovog izraza može shvatiti kao neosjetljivo ili odbacivajuće, stoga ga treba koristiti oprezno i samo u odgovarajućim kontekstima u kojima je namjera jasna.