L'any 966 reapareix en un document on els marmessors del comte Miró I de Barcelona fan donació al monestir de Ripoll de l'alou de Tossa. Fins aleshores, la vall de Tossa havia format part de la mateixa unitat administrativa que Llagostera. Al mateix document figuren «dues parròquies», la de Sant Vicenç i la de Sant Lionç. La primera amb tota certesa correspon a l'actual ermita de Sant Benet, terra endins de la vall de Tossa. La segona va desaparèixer ja en època alt-medieval i es desconeix el seu emplaçament. A la donació també es fa referència al puig o roca Paula, avui dit turó de Pola, indret habitat des de molt antic on hom hi erigí una torre de guaita de la qual avui en resta encara algun fragment.
Sembla que inicialment la senyoria del monestir sobre Tossa no fou prou respectada pels comtes: els anys 1096 i 1097, els comtes Berenguer Ramon II i Ramon Berenguer III confirmaven novament llurs drets, ratificats el mateix 1097 per una butlla del papa Urbà II.
La Torre de Ses Hores i el portal d'entrada a la Vila Vella
El 1186 l'abat de Ripoll Ramon de Berga feia erigir el Castell de Tossa al lloc dit Mont Guardí (Montis Guardini, actual Cap de Tossa) i dictava una sèrie de disposicions, que constitueixen una veritable carta de poblament, per les quals concedia als habitants la facultat de construir cases dins i fora del recinte fortificat (cosa que explica la formació de la Vila Vella) i regulava les relacions de dependència amb el monestir. Malgrat que alliberava els tossencs dels mals usos, era molt rigorosa en l'exercici dels drets senyorials, sobretot pel que fa a la pesca, precisament la principal ocupació dels veïns.