W Sejnach na placu naprzeciw bazyliki znajduje się kaplica poświęcona świętej Agacie. Zbudowana została w 1789 roku z inicjatywy parafian. Jest to budowla o kształcie kwadratu z zaokrąglonymi oknami i namiotowym dachem. Na samym szczycie, w 1828 roku umieszczona tam drewnianą figurę św. Agaty, która jest patronką Sejn i jak w dawnych czasach ma chronić miasto przed pożarami i nieszczęściem.