Κρυφή Υπολογιστική Ισχύς Βρέθηκε στην Αγκαλιά των Νευρώνων

Οι ικανότητες επεξεργασίας πληροφοριών του εγκεφάλου αναφέρεται συχνά ότι βρίσκονται στα τρισεκατομμύρια συνδέσεις που συνδέουν τους νευρώνες του. Ωστόσο, τις τελευταίες δεκαετίες, η αυξανόμενη έρευνα έχει μετατοπίσει αθόρυβα μέρος της προσοχής σε μεμονωμένους νευρώνες, οι οποίοι φαίνεται να επωμίζονται πολύ μεγαλύτερη υπολογιστική ευθύνη από ό,τι φαινόταν κάποτε.

Το τελευταίο σε μια μακρά σειρά αποδεικτικών στοιχείων προέρχεται από την ανακάλυψη ενός νέου τύπου ηλεκτρικού σήματος από τους επιστήμονες στα ανώτερα στρώματα του ανθρώπινου φλοιού. Εργαστηριακές μελέτες και μελέτες μοντελοποίησης έχουν ήδη δείξει ότι μικροσκοπικά διαμερίσματα στους δενδριτικούς βραχίονες των νευρώνων του φλοιού μπορούν το καθένα να εκτελέσει περίπλοκες λειτουργίες στη μαθηματική λογική. Αλλά τώρα φαίνεται ότι τα μεμονωμένα δενδριτικά διαμερίσματα μπορούν επίσης να εκτελέσουν έναν συγκεκριμένο υπολογισμό - "αποκλειστικό OR" - που οι μαθηματικοί θεωρητικοί είχαν προηγουμένως κατηγοριοποιήσει ως μη επιλύσιμο από συστήματα μονού νευρώνα.

«Πιστεύω ότι απλώς ξύνουμε την επιφάνεια αυτού που πραγματικά κάνουν αυτοί οι νευρώνες», είπε ο Albert Gidon, μεταδιδακτορικός συνεργάτης στο Πανεπιστήμιο Humboldt του Βερολίνου και ο πρώτος συγγραφέας της εργασίας που παρουσίασε αυτά τα ευρήματα στο Science em> νωρίτερα αυτόν τον μήνα.

Η ανακάλυψη σηματοδοτεί μια αυξανόμενη ανάγκη για μελέτες του νευρικού συστήματος για την εξέταση των επιπτώσεων των μεμονωμένων νευρώνων ως εκτεταμένων επεξεργαστών πληροφοριών. «Οι εγκέφαλοι μπορεί να είναι πολύ πιο περίπλοκοι από όσο πιστεύουμε», είπε ο Konrad Kording, ένας υπολογιστικός νευροεπιστήμονας στο Πανεπιστήμιο της Πενσυλβάνια, ο οποίος δεν συμμετείχε στην πρόσφατη εργασία. Μπορεί επίσης να ωθήσει ορισμένους επιστήμονες υπολογιστών να επαναξιολογήσουν στρατηγικές για τεχνητά νευρωνικά δίκτυα, τα οποία παραδοσιακά κατασκευάζονταν με βάση την άποψη των νευρώνων ως απλών, μη έξυπνων μεταγωγέων.

Οι περιορισμοί των ανόητων νευρώνων

Στις δεκαετίες του 1940 και του ’50, μια εικόνα άρχισε να κυριαρχεί στη νευροεπιστήμη:αυτή του «βουβού» νευρώνα, ενός απλού ολοκληρωτή, ενός σημείου σε ένα δίκτυο που απλώς συνόψιζε τις εισροές του. Οι διακλαδισμένες επεκτάσεις του κυττάρου, που ονομάζονται δενδρίτες, θα λάμβαναν χιλιάδες σήματα από γειτονικούς νευρώνες - άλλα διεγερτικά, άλλα ανασταλτικά. Στο σώμα του νευρώνα, όλα αυτά τα σήματα θα ζυγίζονταν και θα καταλογίζονταν, και εάν το σύνολο ξεπερνούσε κάποιο όριο, ο νευρώνας εκτόξευε μια σειρά ηλεκτρικών παλμών (δυναμικά δράσης) που κατευθύνουν τη διέγερση γειτονικών νευρώνων.

Ταυτόχρονα, οι ερευνητές συνειδητοποίησαν ότι ένας μεμονωμένος νευρώνας θα μπορούσε επίσης να λειτουργήσει ως λογική πύλη, παρόμοια με εκείνα στα ψηφιακά κυκλώματα (αν και δεν είναι ακόμα σαφές πόσο πραγματικά υπολογίζει ο εγκέφαλος με αυτόν τον τρόπο κατά την επεξεργασία πληροφοριών). Ένας νευρώνας ήταν ουσιαστικά μια πύλη ΚΑΙ, για παράδειγμα, εάν πυροδοτούσε μόνο αφού έλαβε αρκετό αριθμό εισόδων.

Επομένως, τα δίκτυα νευρώνων θα μπορούσαν θεωρητικά να εκτελέσουν οποιονδήποτε υπολογισμό. Ωστόσο, αυτό το μοντέλο του νευρώνα ήταν περιορισμένο. Όχι μόνο οι κατευθυντήριες υπολογιστικές μεταφορές του ήταν απλοϊκές, αλλά για δεκαετίες, οι επιστήμονες δεν είχαν τα πειραματικά εργαλεία για να καταγράψουν από τα διάφορα συστατικά ενός μόνο νευρικού κυττάρου. "Αυτός είναι ουσιαστικά ο νευρώνας που καταρρέει σε ένα σημείο στο διάστημα", δήλωσε ο Bartlett Mel, ένας υπολογιστικός νευροεπιστήμονας στο Πανεπιστήμιο της Νότιας Καλιφόρνια. «Δεν είχε καμία εσωτερική άρθρωση δραστηριότητας». Το μοντέλο αγνόησε το γεγονός ότι οι χιλιάδες είσοδοι που ρέουν σε έναν δεδομένο νευρώνα προσγειώθηκαν σε διαφορετικές θέσεις κατά μήκος των διάφορων δενδριτών του. Αγνόησε την ιδέα (τελικά επιβεβαιώθηκε) ότι οι μεμονωμένοι δενδρίτες μπορεί να λειτουργούν διαφορετικά ο ένας από τον άλλο. Και αγνόησε την πιθανότητα οι υπολογισμοί να εκτελούνται από άλλες εσωτερικές δομές.

Αλλά αυτό άρχισε να αλλάζει τη δεκαετία του 1980. Η εργασία μοντελοποίησης από τον νευροεπιστήμονα Christof Koch και άλλους, που αργότερα υποστηρίχθηκε από πειράματα στον πάγκο, έδειξε ότι οι μεμονωμένοι νευρώνες δεν εξέφραζαν ένα ενιαίο ή ομοιόμορφο σήμα τάσης. Αντίθετα, τα σήματα τάσης μειώθηκαν καθώς κινούνταν κατά μήκος των δενδριτών στο σώμα του νευρώνα και συχνά δεν συνέβαλαν τίποτα στην τελική έξοδο του κυττάρου.

Αυτή η κατάτμηση των σημάτων σήμαινε ότι χωριστοί δενδρίτες θα μπορούσαν να επεξεργάζονται πληροφορίες ανεξάρτητα ο ένας από τον άλλο. "Αυτό ήταν σε αντίθεση με την υπόθεση του σημειακού νευρώνα, στην οποία ένας νευρώνας απλώς πρόσθεσε τα πάντα ανεξάρτητα από την τοποθεσία", είπε ο Mel.

Αυτό ώθησε τον Koch και άλλους νευροεπιστήμονες, συμπεριλαμβανομένου του Gordon Shepherd στο Yale School of Medicine, να μοντελοποιήσουν πώς η δομή των δενδριτών θα μπορούσε κατ' αρχήν να επιτρέπει στους νευρώνες να δρουν όχι ως απλές λογικές πύλες, αλλά ως πολύπλοκα συστήματα επεξεργασίας πολλαπλών μονάδων. Προσομοίωσαν πώς τα δενδριτικά δέντρα μπορούσαν να φιλοξενήσουν πολυάριθμες λογικές πράξεις, μέσω μιας σειράς πολύπλοκων υποθετικών μηχανισμών.

Αργότερα, ο Mel και αρκετοί συνάδελφοί του εξέτασαν πιο προσεκτικά πώς το κύτταρο μπορεί να διαχειρίζεται πολλαπλές εισόδους στους μεμονωμένους δενδρίτες του. Αυτό που βρήκαν τους εξέπληξε:Οι δενδρίτες παρήγαγαν τοπικές αιχμές, είχαν τις δικές τους μη γραμμικές καμπύλες εισόδου-εξόδου και είχαν τα δικά τους κατώφλια ενεργοποίησης, διαφορετικά από αυτά του νευρώνα συνολικά. Οι ίδιοι οι δενδρίτες θα μπορούσαν να λειτουργήσουν ως πύλες ΚΑΙ ή ως πλήθος άλλων υπολογιστικών συσκευών.

Ο Μελ, μαζί με την πρώην μεταπτυχιακή του φοιτήτρια Γιώτα Ποϊράζι (τώρα υπολογιστική νευροεπιστήμονα στο Ινστιτούτο Μοριακής Βιολογίας και Βιοτεχνολογίας στην Ελλάδα), συνειδητοποίησαν ότι αυτό σήμαινε ότι μπορούσαν να συλλάβουν έναν μόνο νευρώνα ως δίκτυο δύο επιπέδων. Οι δενδρίτες θα χρησίμευαν ως μη γραμμικές υπομονάδες υπολογισμού, συλλέγοντας εισόδους και φτύσιμο ενδιάμεσων εξόδων. Αυτά τα σήματα θα συνδυάζονταν στη συνέχεια στο κυτταρικό σώμα, το οποίο θα καθόριζε πώς θα αντιδρούσε ο νευρώνας στο σύνολό του.

Αν η δραστηριότητα στο δενδριτικό επίπεδο επηρέασε πράγματι την πυροδότηση του νευρώνα και τη δραστηριότητα των γειτονικών νευρώνων ήταν ακόμα ασαφές. Ωστόσο, ανεξάρτητα από αυτό, αυτή η τοπική επεξεργασία μπορεί να προετοιμάσει ή να ρυθμίσει το σύστημα ώστε να ανταποκρίνεται διαφορετικά σε μελλοντικές εισροές ή να βοηθήσει στην καλωδίωση του με νέους τρόπους, σύμφωνα με τον Shepherd.

Όποια κι αν ήταν η περίπτωση, "η τάση τότε ήταν:"Εντάξει, να είστε προσεκτικοί, ο νευρώνας μπορεί να είναι πιο ισχυρός από ό, τι νομίζατε", είπε ο Mel.

Ο Shepherd συμφώνησε. «Μεγάλο μέρος της δύναμης της επεξεργασίας που λαμβάνει χώρα στον φλοιό είναι στην πραγματικότητα υποκατώφλι», είπε. «Ένα σύστημα ενός νευρώνα μπορεί να είναι κάτι περισσότερο από ένα μόνο ολοκληρωμένο σύστημα. Μπορεί να είναι δύο στρώσεις ή ακόμα και περισσότερα.» Θεωρητικά, σχεδόν οποιοσδήποτε μπορεί να φανταστεί κανείς υπολογισμός μπορεί να εκτελεστεί από έναν νευρώνα με αρκετούς δενδρίτες, ο καθένας ικανός να εκτελέσει τη δική του μη γραμμική λειτουργία.

Στην πρόσφατη Επιστήμη Έγγραφο, οι ερευνητές προχώρησαν αυτήν την ιδέα ένα βήμα παραπέρα:Πρότειναν ότι ένα μόνο δενδριτικό διαμέρισμα μπορεί να είναι σε θέση να εκτελέσει αυτούς τους πολύπλοκους υπολογισμούς μόνος του.

Απροσδόκητες αιχμές και παλιά εμπόδια

Ο Matthew Larkum, ένας νευροεπιστήμονας στο Humboldt, και η ομάδα του άρχισαν να εξετάζουν τους δενδρίτες με μια διαφορετική ερώτηση στο μυαλό. Επειδή η δενδριτική δραστηριότητα είχε μελετηθεί κυρίως σε τρωκτικά, οι ερευνητές ήθελαν να διερευνήσουν πώς η ηλεκτρική σηματοδότηση μπορεί να είναι διαφορετική στους ανθρώπινους νευρώνες, οι οποίοι έχουν πολύ μακρύτερους δενδρίτες. Πήραν φέτες εγκεφαλικού ιστού από τα στρώματα 2 και 3 του ανθρώπινου φλοιού, που περιέχουν ιδιαίτερα μεγάλους νευρώνες με πολλούς δενδρίτες. Όταν διέγειραν αυτούς τους δενδρίτες με ηλεκτρικό ρεύμα, παρατήρησαν κάτι περίεργο.

Είδαν απροσδόκητες, επαναλαμβανόμενες αιχμές — και αυτές οι αιχμές έμοιαζαν εντελώς αντίθετες με άλλα γνωστά είδη νευρωνικών σημάτων. Ήταν ιδιαίτερα γρήγορες και σύντομες, όπως τα δυναμικά δράσης, και προέκυψαν από ροές ιόντων ασβεστίου. Αυτό ήταν αξιοσημείωτο επειδή τα συμβατικά δυναμικά δράσης προκαλούνται συνήθως από ιόντα νατρίου και καλίου. Και ενώ η σηματοδότηση που προκαλείται από το ασβέστιο είχε παρατηρηθεί στο παρελθόν σε δενδρίτες τρωκτικών, αυτές οι αιχμές έτειναν να διαρκούν πολύ περισσότερο.

Ακόμα πιο περίεργο, η τροφοδοσία περισσότερης ηλεκτρικής διέγερσης στους δενδρίτες μείωσε την ένταση της πυροδότησης του νευρώνα αντί να την αυξήσει. «Ξαφνικά, διεγείρουμε περισσότερο και παίρνουμε λιγότερα», είπε ο Γκίντον. "Αυτό τράβηξε την προσοχή μας."

Για να καταλάβουν τι μπορεί να κάνει το νέο είδος αιχμής, οι επιστήμονες συνεργάστηκαν με την Ποϊράζη και μια ερευνήτρια στο εργαστήριό της στην Ελλάδα, την Αθανασία Παπουτσή, η οποία δημιούργησε από κοινού ένα μοντέλο που αντικατοπτρίζει τη συμπεριφορά των νευρώνων.

Το μοντέλο διαπίστωσε ότι ο δενδρίτης αυξήθηκε ως απόκριση σε δύο ξεχωριστές εισόδους - αλλά απέτυχε να το κάνει όταν αυτές οι είσοδοι συνδυάστηκαν. Αυτό ήταν ισοδύναμο με έναν μη γραμμικό υπολογισμό γνωστό ως αποκλειστικό OR (ή XOR), ο οποίος αποδίδει δυαδική έξοδο 1 εάν μία (αλλά μόνο μία) από τις εισόδους είναι 1.

Αυτό το εύρημα χτύπησε αμέσως μια χορδή στην κοινότητα της επιστήμης των υπολογιστών. Οι λειτουργίες XOR για πολλά χρόνια θεωρούνταν αδύνατες σε μεμονωμένους νευρώνες:Στο βιβλίο τους το 1969 Perceptrons , οι επιστήμονες υπολογιστών Marvin Minsky και Seymour Papert προσέφεραν μια απόδειξη ότι τα τεχνητά δίκτυα ενός επιπέδου δεν μπορούσαν να εκτελέσουν XOR. Αυτό το συμπέρασμα ήταν τόσο καταστροφικό που πολλοί επιστήμονες υπολογιστών το κατηγόρησαν για την κούραση στην οποία έπεσε η έρευνα στα νευρωνικά δίκτυα μέχρι τη δεκαετία του 1980.

Οι ερευνητές νευρωνικών δικτύων βρήκαν τελικά τρόπους να αποφύγουν το εμπόδιο που εντόπισαν οι Minsky και Papert και οι νευροεπιστήμονες βρήκαν παραδείγματα αυτών των λύσεων στη φύση. Για παράδειγμα, ο Ποϊράζι γνώριζε ήδη ότι το XOR ήταν δυνατό σε έναν μόνο νευρώνα:Μόνο δύο δενδρίτες μαζί θα μπορούσαν να το επιτύχουν. Αλλά σε αυτά τα νέα πειράματα, αυτή και οι συνάδελφοί της πρόσφεραν έναν εύλογο βιοφυσικό μηχανισμό για τη διευκόλυνσή του — σε έναν μόνο δενδρίτη.

«Για μένα, είναι ένας άλλος βαθμός ευελιξίας που έχει το σύστημα», είπε ο Ποϊράζι. "Απλώς σας δείχνει ότι αυτό το σύστημα έχει πολλούς διαφορετικούς τρόπους υπολογισμού." Ωστόσο, επισημαίνει ότι εάν ένας μόνο νευρώνας μπορούσε ήδη να λύσει αυτό το είδος προβλήματος, "γιατί το σύστημα να μπει στον κόπο να βρει πιο περίπλοκες μονάδες μέσα στον νευρώνα;"

Επεξεργαστές εντός επεξεργαστών

Σίγουρα δεν είναι όλοι οι νευρώνες έτσι. Σύμφωνα με τον Gidon, υπάρχουν πολλοί μικρότεροι νευρώνες που μοιάζουν με σημείο σε άλλα μέρη του εγκεφάλου. Προφανώς, λοιπόν, αυτή η νευρική πολυπλοκότητα υπάρχει για κάποιο λόγο. Γιατί λοιπόν τα μεμονωμένα διαμερίσματα μέσα σε έναν νευρώνα χρειάζονται την ικανότητα να κάνουν ό,τι ολόκληρος ο νευρώνας, ή ένα μικρό δίκτυο νευρώνων, μπορεί να κάνει μια χαρά; Η προφανής πιθανότητα είναι ότι ένας νευρώνας που συμπεριφέρεται σαν ένα πολυεπίπεδο δίκτυο έχει πολύ μεγαλύτερη επεξεργαστική ισχύ και επομένως μπορεί να μάθει ή να αποθηκεύσει περισσότερα. «Ίσως έχετε ένα βαθύ δίκτυο μέσα σε έναν μόνο νευρώνα», είπε ο Ποϊράζι. "Και αυτό είναι πολύ πιο ισχυρό όσον αφορά την εκμάθηση δύσκολων προβλημάτων, από την άποψη της γνώσης."

Ίσως, πρόσθεσε ο Kording, «ένας μόνος νευρώνας μπορεί να είναι σε θέση να υπολογίσει πραγματικά πολύπλοκες συναρτήσεις. Για παράδειγμα, μπορεί από μόνο του να είναι σε θέση να αναγνωρίσει ένα αντικείμενο.» Η ύπαρξη τόσο ισχυρών μεμονωμένων νευρώνων, σύμφωνα με τον Poirazi, μπορεί επίσης να βοηθήσει τον εγκέφαλο να εξοικονομήσει ενέργεια.

Η ομάδα του Larkum σχεδιάζει να αναζητήσει παρόμοια σήματα στους δενδρίτες των τρωκτικών και άλλων ζώων, για να προσδιορίσει εάν αυτή η υπολογιστική ικανότητα είναι μοναδική για τον άνθρωπο. Θέλουν επίσης να προχωρήσουν πέρα ​​από το εύρος του μοντέλου τους για να συσχετίσουν τη νευρική δραστηριότητα που παρατήρησαν με την πραγματική συμπεριφορά. Εν τω μεταξύ, ο Ποϊράζι ελπίζει τώρα να συγκρίνει τους υπολογισμούς σε αυτούς τους δενδρίτες με αυτό που συμβαίνει σε ένα δίκτυο νευρώνων, για να υπολογίσει τυχόν πλεονεκτήματα που μπορεί να έχει ο πρώτος. Αυτό θα περιλαμβάνει δοκιμή για άλλους τύπους λογικών πράξεων και διερεύνηση του τρόπου με τον οποίο αυτές οι λειτουργίες μπορεί να συμβάλλουν στη μάθηση ή στη μνήμη. «Μέχρι να το χαρτογραφήσουμε αυτό, δεν μπορούμε πραγματικά να πούμε πόσο ισχυρή είναι αυτή η ανακάλυψη», είπε ο Ποϊράζι.

Αν και υπάρχει ακόμη πολλή δουλειά που πρέπει να γίνει, οι ερευνητές πιστεύουν ότι αυτά τα ευρήματα σηματοδοτούν την ανάγκη επανεξέτασης του τρόπου με τον οποίο μοντελοποιούν τον εγκέφαλο και τις ευρύτερες λειτουργίες του. Η εστίαση στη συνδεσιμότητα διαφορετικών νευρώνων και περιοχών του εγκεφάλου δεν θα είναι αρκετή.

Τα νέα αποτελέσματα φαίνονται επίσης έτοιμα να επηρεάσουν ερωτήσεις στους τομείς της μηχανικής μάθησης και της τεχνητής νοημοσύνης. Τα τεχνητά νευρωνικά δίκτυα βασίζονται στο μοντέλο σημείου, αντιμετωπίζοντας τους νευρώνες ως κόμβους που υπολογίζουν τις εισαγωγές και περνούν το άθροισμα μέσω μιας συνάρτησης δραστηριότητας. «Πολύ λίγοι άνθρωποι έχουν πάρει στα σοβαρά την ιδέα ότι ένας μεμονωμένος νευρώνας θα μπορούσε να είναι μια πολύπλοκη υπολογιστική συσκευή», είπε ο Gary Marcus, ένας γνωστικός επιστήμονας στο Πανεπιστήμιο της Νέας Υόρκης και ένας ειλικρινής σκεπτικιστής για ορισμένους ισχυρισμούς που διατυπώνονται για τη βαθιά μάθηση.

Αν και η Επιστήμη Το χαρτί δεν είναι παρά ένα εύρημα σε μια εκτεταμένη ιστορία εργασίας που καταδεικνύει αυτήν την ιδέα, πρόσθεσε, οι επιστήμονες υπολογιστών μπορεί να ανταποκρίνονται περισσότερο σε αυτήν, επειδή πλαισιώνει το ζήτημα με όρους του προβλήματος XOR που συνέχισε την έρευνα των νευρωνικών δικτύων για τόσο καιρό. «Λέει, πρέπει πραγματικά να το σκεφτούμε αυτό», είπε ο Μάρκους. "Όλο το παιχνίδι — το να καταλήξουμε στο πώς θα αποκτήσετε έξυπνη γνώση από τους ανόητους νευρώνες — μπορεί να είναι λάθος."

«Αυτή είναι μια εξαιρετικά καθαρή απόδειξη αυτού», πρόσθεσε. "Θα μιλήσει πάνω από τον θόρυβο."