A.- K._, alors de nationalité iranienne, est entré en Suisse le 30 mai 1985. Il a déposé une demande d'asile le 12 juin 1985, qui a été rejetée le 17 mai 1991. Depuis cette date, il a cependant bénéficié d'une admission provisoire. Il a été naturalisé suisse le 5 juin 1998. Depuis son enfance, K._ souffre des séquelles d'une poliomyélite qui limite sa mobilité. Il est titulaire d'un baccalauréat en économie obtenu en Iran. Dès le 1er janvier 1994, il a travaillé au service de l'association X._, en qualité d'employé d'atelier protégé. Son salaire mensuel pour un horaire de travail à plein temps était de 1144 fr. Depuis le 1er août 1998, il ne travaille que deux jours par semaine (soit à raison de 40 pour cent) au service de cette association, en raison d'une diminution de sa capacité de travail attestée médicalement (rapport de la doctoresse V._ du 22 juillet 1998). Le 13 juillet 1998, K._ a déposé une demande de prestations de l'assurance-invalidité tendant à la mise en oeuvre d'un reclassement professionnel et à la remise de moyens auxiliaires (prothèses et fauteuil roulant). Par décision du 27 octobre 1998, l'Office cantonal genevois de l'assurance-invalidité a rejeté la demande de remise de moyens auxiliaires, au motif que le requérant n'était pas assuré à l'assurance-invalidité suisse au moment où le besoin de moyens auxiliaires s'était fait sentir pour la première fois, en 1973 selon l'office. Statuant sur recours de l'assuré, la Commission cantonale genevoise de recours en matière d'AVS/AI a partiellement admis le recours. Elle a statué que l'assuré n'avait pas droit à la prise en charge par l'assurance-invalidité d'orthèses; en revanche, il pouvait prétendre la remise d'un fauteuil roulant (jugement du 14 juillet 2000). Par arrêt du 15 décembre 2000, le Tribunal fédéral des assurances a rejeté les recours de droit administratif interjetés contre ce jugement à la fois par l'assuré et par l'office de l'assurance-invalidité (causes I 524/00 et I 534/00). B.- Le 26 août 1999, l'office de l'assurance-invalidité a rendu une nouvelle décision, par laquelle il a refusé d'accorder à l'assuré des mesures de reclassement professionnel ainsi qu'une rente. Il a considéré, en particulier, que des mesures de réadaptation professionnelle ne pouvaient pas être accordées dans ce cas, attendu que la carrière professionnelle de l'assuré avait été entravée par le seul fait que son baccalauréat obtenu en Iran n'avait pas été reconnu en Suisse. Il s'agissait là d'une circonstance sans rapport avec l'invalidité alléguée. La reconnaissance en Suisse de ce diplôme aurait permis à l'intéressé de poursuivre ses études jusqu'à l'obtention d'une licence en sciences économiques. Après l'achèvement de cette formation universitaire, l'assuré aurait pu exercer une activité professionnelle en position assise (travail de bureau) avec un plein rendement. C.- L'assuré a recouru contre cette décision. Statuant le 4 octobre 2000, la Commission cantonale genevoise de recours en matière d'AVS/AI a partiellement admis le recours. Elle a renvoyé la cause à l'administration pour instruction complémentaire afin qu'elle détermine la date de la survenance de l'invalidité et qu'elle se prononce ensuite sur le droit de l'assuré à des mesures de réadaptation professionnelle ou à une rente. D.- L'office de l'assurance-invalidité interjette un recours de droit administratif dans lequel il conclut à l'annulation de ce jugement. K._ conclut au rejet du recours sous suite de dépens. Il demande, en outre, à bénéficier de l'assistance judiciaire pour la procédure devant le Tribunal fédéral des assurances. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé sur le recours. 