【導(dǎo)讀】這家成立三年的小初創(chuàng)公司，首次利用深度學(xué)習(xí)語言模型合成出了自然界中不存在的全新蛋白質(zhì)，引爆蛋白質(zhì)設(shè)計(jì)革命。

人工智能的應(yīng)用，已經(jīng)極大地加速了蛋白質(zhì)工程的研究。

最近，加州伯克利的一家初出茅廬的初創(chuàng)公司再次取得了驚人的進(jìn)步。

科學(xué)家們采用類似ChatGPT的蛋白質(zhì)工程深度學(xué)習(xí)語言模型——Progen，首次實(shí)現(xiàn)了AI預(yù)測蛋白質(zhì)的合成。

這些蛋白質(zhì)不僅與已知的完全不同，相似度最低的甚至只有31.4%，但和天然蛋白一樣有效。

現(xiàn)在，這項(xiàng)工作已經(jīng)正式發(fā)表于Nature子刊。

論文地址：https://www.nature.com/articles/s41587-022-01618-2

這個(gè)實(shí)驗(yàn)也表明，自然語言處理雖然是為讀寫語言文本而開發(fā)的，但它也可以學(xué)習(xí)生物學(xué)的一些基本原理。

比肩諾獎(jiǎng)的技術(shù)

對此，研究人員表示，這項(xiàng)新技術(shù)可能會變得比定向進(jìn)化（獲得諾貝爾獎(jiǎng)的蛋白質(zhì)設(shè)計(jì)技術(shù)）更加強(qiáng)大。

「它將通過加快開發(fā)可用于從治療劑到降解塑料等幾乎所有用途的新蛋白質(zhì)，為有50年歷史的蛋白質(zhì)工程領(lǐng)域注入活力?！?/p>

這家公司名叫Profluent，由前Salesforce AI研究負(fù)責(zé)人創(chuàng)立，已獲得900萬美元的啟動資金，用于建立一個(gè)集成的濕實(shí)驗(yàn)室，并招募機(jī)器學(xué)習(xí)科學(xué)家和生物學(xué)家。

以往，在自然界中挖掘蛋白質(zhì)，或者調(diào)整蛋白質(zhì)到所需功能，都十分費(fèi)力。Profulent的目標(biāo)是，讓這個(gè)過程變得毫不費(fèi)力。

他們做到了。

Profluent創(chuàng)始人兼CEO Ali Madani

Madani在采訪中表示，Profulent已經(jīng)設(shè)計(jì)出了多個(gè)家族的蛋白質(zhì)。這些蛋白質(zhì)的功能與樣本蛋白（exemplar proteins）一樣，因此是具有高活性的酶。

這項(xiàng)任務(wù)非常困難，是以zero-shot的方式完成的，這意味著并沒有進(jìn)行多輪優(yōu)化，甚至根本不提供濕實(shí)驗(yàn)室的任何數(shù)據(jù)。

而最終設(shè)計(jì)出的蛋白質(zhì)，是通常需要數(shù)百年才能進(jìn)化出來的高活性蛋白質(zhì)。

基于語言模型的ProGen

作為深度神經(jīng)網(wǎng)絡(luò)的一種，條件語言模型不僅可以生成語義和語法正確且新穎多樣的自然語言文本，而且還可以利用輸入控制標(biāo)簽來指導(dǎo)風(fēng)格、主題等等。

類似的，研究人員開發(fā)出了今天的主角——ProGen，一個(gè)12億參數(shù)的條件蛋白質(zhì)語言模型。

具體來說，基于Transformer架構(gòu)的ProGen通過自注意機(jī)制來模擬殘基的相互作用，并且可以根據(jù)輸入控制標(biāo)簽生成不同的跨蛋白質(zhì)家族的人工蛋白質(zhì)序列。

用條件語言模型生成人工蛋白質(zhì)

為了創(chuàng)建這個(gè)模型，研究人員喂了2.8億種不同蛋白質(zhì)的氨基酸序列，并讓它「消化」了幾周的時(shí)間。

接著，他們又用五個(gè)溶菌酶家族的56,000個(gè)序列以及關(guān)于這些蛋白質(zhì)的信息，對模型進(jìn)行了微調(diào)。

Progen的算法與ChatGPT背后的模型GPT3.5類似，它學(xué)習(xí)到了蛋白質(zhì)中氨基酸排序的規(guī)律，以及它們與蛋白結(jié)構(gòu)和功能的關(guān)系。

很快，模型就生成了一百萬個(gè)序列。

根據(jù)與天然蛋白質(zhì)序列的相似程度，以及氨基酸「語法」和「語義」的自然程度，研究人員選擇了100個(gè)進(jìn)行測試。

其中，有66個(gè)產(chǎn)生了與消滅蛋清和唾液中細(xì)菌的天然蛋白質(zhì)類似的化學(xué)反應(yīng)。

也就是說，這些由AI生成的新蛋白質(zhì)也可以殺死細(xì)菌。

生成的人工蛋白是多樣化的，且在實(shí)驗(yàn)系統(tǒng)中表達(dá)良好

更進(jìn)一步，研究人員選擇了反應(yīng)最強(qiáng)烈的五種蛋白質(zhì)，并將它們加入到大腸桿菌的樣本中。

其中，有兩種人工酶能夠分解細(xì)菌的細(xì)胞壁。

通過與雞蛋白溶菌酶（HEWL）進(jìn)行比較可以發(fā)現(xiàn)，它們的活性與HEWL相當(dāng)。

隨后，研究人員又用X射線進(jìn)行了成像。

盡管人工酶的氨基酸序列與現(xiàn)有的蛋白質(zhì)有高達(dá)30%的差異，二者之間也只有18%是相同的，但它們的形狀卻與自然界的蛋白質(zhì)相差無幾，而且功能也可以與之媲美。

條件語言建模對其他蛋白質(zhì)系統(tǒng)的適用性

除此之外，對于高度進(jìn)化的天然蛋白質(zhì)來說，可能只需一個(gè)小小突變就會讓它停止工作。

但研究人員在另一輪篩選中發(fā)現(xiàn)，在AI生成的酶中，即使只有31.4%的序列與已知蛋白質(zhì)相同，也能表現(xiàn)出相當(dāng)?shù)幕钚砸约邦愃频慕Y(jié)構(gòu)。

蛋白質(zhì)設(shè)計(jì)，進(jìn)入新時(shí)代

可以看到，ProGen的工作方式與ChatGPT很類似。

ChatGPT通過學(xué)習(xí)海量數(shù)據(jù)，可以參加MBA和律師考試、撰寫大學(xué)論文。

而ProGen通過學(xué)習(xí)氨基酸如何組合成2.8億個(gè)現(xiàn)有蛋白質(zhì)的語法，學(xué)會了如何生成新的蛋白質(zhì)。

在采訪中，Madani表示，「就像ChatGPT學(xué)習(xí)英語之類的人類語言一樣，我們是在學(xué)習(xí)生物和蛋白質(zhì)的語言?！?/p>

「人工設(shè)計(jì)蛋白質(zhì)的性能比受進(jìn)化過程啟發(fā)的蛋白質(zhì)要好得多，」論文作者之一、加州大學(xué)舊金山分校藥學(xué)院生物工程和治療科學(xué)教授James Fraser說。

「語言模型正在學(xué)習(xí)進(jìn)化的各個(gè)方面，但它與正常的進(jìn)化過程不同。我們現(xiàn)在有能力調(diào)整這些特性的產(chǎn)生，以獲得特定效果。比如，讓一種酶具有令人難以置信的熱穩(wěn)定性，或嗜好酸性環(huán)境，或者不會與其他蛋白質(zhì)相互作用?！?/p>

早在2020年，Salesforce Research就開發(fā)了ProGen。它基于的自然語言編程，最初用于生成英語文本。

從之前的工作中，研究者們了解到，人工智能系統(tǒng)可以自學(xué)語法和單詞的含義，以及其他使寫作井井有條的基本規(guī)則。

「當(dāng)你用大量數(shù)據(jù)訓(xùn)練基于序列的模型時(shí)，它們在學(xué)習(xí)結(jié)構(gòu)和規(guī)則上的表現(xiàn)非常強(qiáng)大，」Salesforce Research人工智能研究總監(jiān)、論文的資深作者Nikhil Naik博士說，「它們會了解哪些詞可以同時(shí)出現(xiàn)，該怎樣組合?！?/p>

「現(xiàn)在，我們已經(jīng)證明了ProGen有能力生成新的蛋白質(zhì)，并進(jìn)行了公開發(fā)布，所有人都可以在我們的基礎(chǔ)上進(jìn)行研究?！?/p>

作為蛋白質(zhì)的溶菌酶雖然非常小，最多有約300個(gè)氨基酸。

但是有20種可能的氨基酸，就有20^300種可能的組合。

這比古往今來的所有人類，乘以地球上沙粒的數(shù)量，再乘以宇宙中的原子數(shù)量的積還要多。

考慮到這近乎無限的可能性，Progen能夠如此輕松地設(shè)計(jì)出有效的酶，確實(shí)很了不起。

Profluent Bio創(chuàng)始人、Salesforce Research前研究科學(xué)家Ali Madani博士說：「開箱即用地從頭開始生成功能性蛋白質(zhì)的能力，表明我們正在進(jìn)入蛋白質(zhì)設(shè)計(jì)的新時(shí)代。」

「這是所有蛋白質(zhì)工程師都可以使用的多功能新工具，我們期待看到它被應(yīng)用于治療?！?/p>

與此同時(shí)，研究人員仍在繼續(xù)改進(jìn)ProGen，試圖突破更多的限制和挑戰(zhàn)。

其中之一便它非常地依賴數(shù)據(jù)。

「我們已經(jīng)探索了通過加入基于結(jié)構(gòu)的信息來改善序列的設(shè)計(jì)，」Naik說，「我們還在研究當(dāng)你沒有太多關(guān)于某個(gè)特定蛋白質(zhì)家族或領(lǐng)域的數(shù)據(jù)時(shí)，如何提高模型的生成能力?！?/p>

值得注意的是，還有一些初創(chuàng)公司也在嘗試相似的技術(shù)，比如Cradle，以及自生物技術(shù)孵化器Flagship Pioneering的Generate Biomedicines，不過這些研究都還未經(jīng)過同行評審。

參考資料：

https://endpts.com/exclusive-profluent-debuts-to-design-proteins-with-machine-learning-in-bid-to-move-past-ai-sprinkled-on-top/

https://www.newscientist.com/article/2356597-ai-has-designed-bacteria-killing-proteins-from-scratch-and-they-work/

https://www.sciencedaily.com/releases/2023/01/230126124330.htm

(來源：新智元、生物島、生命科學(xué)前沿,如果侵權(quán)請聯(lián)系刪除）