En domstol på lägre nivå vägrade år 2013 att behandla en talan om spionprogrammets legitimitet som väckts av American Civil Liberties Union.
Men nu har appelationsdomstolen alltså gjort en annan bedömning och förklarar att NSA:s övervakning av telefontrafik är olaglig.
Programmet bryter enligt domen mot fjärde tillägget till den amerikanska konstitutionen, som förbjuder omotiverade husrannsakningar. Insamlingen av uppgifter om telefonsamtal bryter dessutom mot reglerna för NSA:s verksamhet, fastställda av kongressen.
Domstolen har inte ålagt NSA att upphöra med övervakningsprogrammet men uppmanar kongressen att agera.
NSA:s övervakning av internet- och telefontrafik avslöjades år 2013 av visselblåsaren Edward Snowden, som har flytt till Ryssland för att undgå åtal i USA. Huruvida misstankarna mot Snowden förändras i och med dagens domslut är än så länge oklart.