Η καταστροφή του Ελληνικού Στρατού στη Μικρά Ασία και ο ξεριζωμός των Ελλήνων είχε ως αποτέλεσμα τον ερχομό εκατοντάδων χιλιάδων προσφύγων στην Ελλάδα.

Υπολογίζεται πως περίπου 8.000 ήρθαν στην Πάτρα μετά το 1922, ο μικρότερος αριθμός σε σχέση με άλλες πόλεις. Μαζί τους έφεραν τη δική τους κουλτούρα, όπως αυτή εκφραζόταν από τις καθημερινές δουλειές μέχρι την τέχνη.

H ιστορία του Ολυμπιακού Πατρών, του μεγαλύτερου από τα προσφυγικά σωματεία, ξεκινά τον Ιούλιο του 1925 όταν ιδρύεται από έξι παίκτες της Παναχαϊκής και τέσσερις του Λευκού Αστέρα -όλοι τους πρόσφυγες- ως Ερμής με χρώματα το μπλε και το άσπρο, αλλά μέσα σε ένα μήνα αλλάζει ονομασία (Ολυμπιακός) και αναγνωρίζεται επίσημα.

Το πρώτο παιχνίδι στην ιστορία του το έδωσε κόντρα στον Λευκό Αστέρα, ως Ερμής, που ήταν και το μοναδικό που έδωσε με αυτό το όνομα. Ως Ολυμπιακός τον πρώτο αγώνα τον έδωσε με αντίπαλο το Αγγλικό ατμόπλοιο "Cavallo" νικώντας με 7-1. Το πρώτο επίσημο παιχνίδι του ήταν στις 9 Νοεμβρίου 1925, κόντρα στην Παναχαϊκή (νίκησε 2-0) για το πρωτάθλημα της περιόδου 1925-1926, το οποίο τελικά και κατέκτησε.

Το καταστατικό του εγκρίθηκε σαν σήμερα, στις 14 Δεκεμβρίου 1925.

Ο Ολυμπιακός ιδρύθηκε από πρόσφυγες φιλάθλους και μέλη του Απόλλωνα Σμύρνης που μετά την Μικρασιατική καταστροφή το 1922 ήρθαν στην Πάτρα και εγκαταστάθηκαν στην σημερινή συνοικία των Προσφυγικών.

Στην αρχή ιδρύεται (τον Ιούλιο του 1925) από έξι παίκτες της Παναχαικής και τέσσερις του Λευκού Αστέρα μαζί με παράγοντες της Παναχαικής, σαν Ερμής και χρώματα μπλε και άσπρο. Μετά έναν μήνα αλλάζει ονομασία σε Ολυμπιακός και αναγνωρίζεται επίσημα με την αρ. 1717 απόφαση του πρωτοδικείου Πατρών. Τα πρώτα μάλιστα χρόνια το όνομα του αναφέρεται σαν Ολυμπιακός Οπλητικός Ποδοσφαιρικός Σύλλογος Πατρών.

Ιδρυτές του αναφέρονται οι Χάρρυ Πουλόπουλος, Οχάν Οχανιάν, Νίκος Γρηγορόπουλος, Ιωάννης Γρηγορόπουλος, Μιχάλης Κουρμουλής, Αντώνης Πούλος, Μαρντίκ Μαρντικιάν και Αντ. Συνανίδης. Πρώτος πρόεδρος ήταν ο Μιχάλης Κουρμουλής επί προεδρίας του απέκτησε και γήπεδο. Το 1937 εκλέγεται για πρώτη φορά ο επί σειρά ετών, μακροβιότερος πρόεδρος του Ολυμπιακού αλλά και της ΕΠΣ Πατρών Κωνσταντίνος Σκλάβος

Το ποδοσφαιρικό τμήμα ιδρύθηκε το 1925 κι ανήκει στην δύναμη της Ε.Π.Σ. Αχαΐας, και αριθμό μητρώου ΕΠΟ 1788. Το πρώτο παιχνίδι στην ιστορία του το έδωσε απέναντι στον Λευκό Αστέρα , σαν Ερμής όμως όπου ήταν και το μοναδικό που έδωσε με αυτό το όνομα. Ως Ολυμπιακός τον πρώτο αγώνα τον έδωσε με αντίπαλο το Αγγλικό ατμόπλοιο "Cavallo" νικώντας με 7-1.

Από το πρώτο πρωτάθλημα Α' κατηγορίας που συμμετείχε το 1925 έπαιξε ανελλιπώς στην Α' έως το 1965 όπου ανέβηκε στην Β' εθνική.

Το πρώτο επίσημο παιχνίδι σε επίσημη διοργάνωση ήταν στις 9-11-1925 Παναχαϊκή-Ολυμπιακός 0-2 για το πρωτάθλημα της περιόδου το οποίο και κατέκτησε. Σε αυτά τα πρώτα χρόνια της ιστορίας του ο Ολυμπιακός δημιουργήθηκε μια μεγάλη κόντρα με την Παναχαϊκή η οποία ξεκίνησε αμέσως με την ίδρυση του και με αιτία την αποχώρηση των έξι παικτών, μία κόντρα η οποία σημαδεύτηκε με φοβερά επεισόδια για την εποχή εκείνη.

Στο πρωτάθλημα του 1925 η Παναχαϊκή δεν κατεβαίνει στον τελικό με πρόφαση όπως είδαμε την αποχώρηση των "έξι" και παίρνει τον τίτλο ο Ολυμπιακός και μετά συνεχίζετε η κόντρα με δημοσίευσης στον τοπικό τύπο πολλές φορές προσβλητικές για τον αντίπαλο. Τα δύο ατά χρόνια ο Ολυμπιακός κατακτά και τα δύο πρωταθλήματα που συμμετέχει , το 1926 και 1927. Το 1928 στις 5 Μαρτίου έχουμε επεισόδια στον μεταξύ τους αγώνα με πολλές αποβολές παικτών , τόσες πολλές που η Παναχαϊκή σχεδόν διαλύθηκε αφού δεν είχε παίκτες να κατέβει στον επόμενο αγώνα.

Στις 26-8 Εισβολή φιλάθλων του Ολυμπιακού στον αγωνιστικό χώρο. Η κόντρα αυτή συνεχίστηκε μέχρι τον Β΄παγκόσμιο πόλεμο μετά την κόντρα την συνέχισε ένα άλλο προσφυγικό σωματείο η Θύελλα.

Το 1933 έκανε μια περιοδεία στην Τουρκία[6] και ήταν η πρώτη επαρχιακή ομάδα στην Ελλάδα που το έκανε αυτό. Οι πόλεις που επισκέφθηκαν και έπαιξαν κυρίως με μικτές ομάδες ήταν Κωνσταντινούπολη, Αντάμπαζα, Προύσα, Μπαλούκεσεν και Σμύρνη . Προπονητή τότε είχε τον Ούγγρο Ζίγκερ ο οποίος κανόνισε και την περιοδεία.

Το 1936 απορροφά την ΑΕΚ Πατρών που έπαιζε κι αυτή στην Α' κατηγορία. Το 1940 κατακτά το τρίτο του προπολεμικό πρωτάθλημα. Την περίοδο αυτή έως το 1940 ο Ολυμπιακός κατέκτησε και τρία κύπελλα Πατρών τις χρονιές 1938, 1939, 1940 ενώ ήταν φιναλίστ το 1937. Στο κύπελλο που διοργανώθηκε από την Ένωση αθλητών το 1943 έχασε από την Παναχαική με 1-0.

Το 1950 ποδοσφαιριστές πάλι της ΑΕΚ Πατρών φεύγουν κι έρχονται στον Ολυμπιακό Πατρών με επακόλουθο την έλειψη παικτών και την επόμενη περίοδο να μην δηλώσει η ΑΕΚ συμμετοχή στο πρωτάθλημα. Το 1960 αποφασίζετε να συγχωνευτεί με την Θύελλα Πατρών, μια συγχώνευση η οποία κράτησε δύο χρόνια αφού οι δύο σύλλογοι δεν τα βρήκαν στο όνομα η πλευρά της Θύελλας ήθελε για όνομα το "Θυελλώδης Ολυμπιακός" ενώ η πλευρά τού Ολυμπιακού ήθελε το "Ολυμπιακή Θύελλα" , έτσι στο πρωτάθλημα της Β εθνικής το 1959-1960 κατέβηκε σαν Ολυμπιακός και την περίοδο 1960-1961 πάλι στην Β εθνική σαν Θύελλα.

Ο Ολυμπιακός θα ξαναπάρει το πρωτάθλημα τις χρονιές 1950, 1960 και τελευταία φορά το 1965, το 1954 το έχασε στον τελικό από την Παναχαική. Το 1959-60 μάλιστα κέρδισε την συμμετοχή του για πρώτη φορά σε εθνική κατηγορία. Στην Β εθνική ο Ολυμπιακός αγωνίστηκε δύο περιόδους , το 1959-60 και το 1966-67.

Το 1967 συγχωνεύεται μαζί με τα υπόλοιπα σωματεία της Πάτρας με τον αναγκαστικό νόμο της χούντας και δημιουργείται ο Πάτραι. Ο Ολυμπιακός το 1972 επανιδρύεται σαν Ολυμπιακός Αγίου Γερασίμου, το 1973 με την πτώση της χούντας ξαναπαίρνει το κανονικό του όνομα, αλλά δεν καταφέρνει να πρωταγωνιστήσει ξανά, μένοντας μέχρι σήμερα στα επίπεδα του τοπικού πρωταθλήματος. Στην Α' κατηγορία ξανάπαιξε την περίοδο 1981-82 έως την 2002-03 και πάλι την περίοδο 2008-2010.

Ο Ολυμπιακός παλιότερα είχε Β΄και Γ' ομάδες που αγωνίζονταν στα πρωταθλήματα Β και Γ κατηγορίας της ΕΠΣ Πατρών. Έχει 21 συμμετοχές στο κύπελλο Ελλάδος.