Nato a Strasburgo da madre alsaziana e padre tedesco, usò per tutta la vita due nomi: quello tedesco di Hans e quello francese di Jean, alternandoli in base alla lingua o alle varie circostanze in cui gli capitava di riferirsi a se stesso.

La sua fama è legata al superamento delle forme tradizionali dell'arte figurativa, e alla scoperta di forme nuove, che vanno dai collages ai papiers déchirés, ai frammenti di materiali vari uniti insieme.
La sua attività si colloca al centro di quella vasta corrente dell'arte moderna che, dal cubismo al surrealismo, si pose come compito non di rappresentare la realtà ma di inventare nuove realtà.