De accordeon werkt volgens hetzelfde principe als een mondorgel/ -harmonica. Door blaaslucht wordt een zogenoemd tongetje in trilling gebracht, waardoor er een toon ontstaat. Hoe langer de tong, hoe lager de toon en hoe korter de tong hoe hoger de toon. Bij een accordeon blaas je niet zelf de lucht langs de tongen, maar gebeurt dit door het heen en weer bewegen van de accordeonbalg.

In plaats van een rij tongen heeft de accordeon afhankelijk van de uitvoering 2, 3, 4 of zelfs 5 verschillende tongblokken die allemaal iets anders gestemd zijn. Dit levert het authentieke accordeongeluid op zoals we dit kennen. Het in- en uitschakelen van verschillende tongblokken gebeurt met schakelaars die registers worden genoemd. De tongblokken kunnen op verschillende octaaftoonhoogten gestemd zijn, hetgeen wordt aangeduid in de middeleeuwse maatvoering 16 voet, 8 voet, en 4 voet. Hier zit telkens een octaaf toonhoogte verschil tussen.

Op de accordeon speel je met de rechterhand de melodie en met de linkerhand de bassen en de akkoorden. De melodiekant kan zijn uitgevoerd met toetsen (klavieraccordeons) of met knopjes (knopaccordeons). De accordeon bestaat in verschillende formaten, aangeduid door het aantal bassen. Zo zijn er kleine 32 of 48 bas accordeons, 72 of 80 bas accordeons, of  96 en 120 bas accordeons.

De accordeon is bekend van veel muzieksoorten, zoals de Franse musette-walsen, de treurige Balkan-muziek, de volkstümliche muziek en zelfs pop, jazz en klassieke muziek. Sinds een aantal jaar is er ook een volledig digitale accordeon: de Roland V. Hierin is de typische accordeonklank gedigitaliseerd opgenomen terwijl het gevoel hetzelfde blijft als bij de echte accordeon.