Google Patents Archive

Kho lưu trữ được giảm dòng của bằng sáng chế Google và Microsoft được tổ chức theo người phát minh hoặc nhà lãnh đạo nghiên cứu đã gửi chúng. Mỗi dòng theo một kỹ sư thông qua di truyền bằng sáng chế của họ để người đọc có thể thấy cách một chủ đề nghiên cứu phát triển trên các tiếp tục, ứng dụng phân chia, và cấp. Các bằng sáng chế được chú thích với bề mặt xếp hạng mà chúng chạm: hiểu biết truy vấn, xếp hạng, truy xuất, tín hiệu hành vi, biểu đồ kiến thức, hoặc tìm kiếm AI.

Theo dõi bằng sáng chế theo người phát minh

• 65 Google Patents to Help You Understand How Search Engines Work! (69 bằng sáng chế) — Một bộ sưu tập được giảm dòng của các bằng sáng chế cơ bản và nâng cao được nộp bởi Google.
• Steven Baker — Google Search Patents (49 bằng sáng chế) — 49 bằng sáng chế công cụ tìm kiếm được cấp plus 2 ứng dụng được công bố bởi nhà nghiên cứu Google Steven D. Baker, bao gồm hiểu biết truy vấn (từ đồng nghĩa, n-gram, địa lý, ngôn ngữ chéo), tinh chỉnh truy vấn, phát hiện dừng từ có ý nghĩa, tính điểm đoạn trả lời (đoạn trích nổi bật), độ tương tự truy vấn, danh sách đồng lây lan, và tìm kiếm được cá nhân hóa dựa trên nhúng.
• Amit Singhal — Google Search Patents (22 bằng sáng chế) — 22 bằng sáng chế công cụ tìm kiếm của Amit Singhal, cựu Phó Chủ tịch Google về Tìm kiếm (2000-2016), bao gồm xếp kết hợp và thành phần kết quả, viết lại truy vấn, hiểu biết truy vấn ngữ nghĩa, tính điểm chất lượng liên kết, xếp hạng nhận biết vị trí, thiên vị ngôn ngữ và quốc gia, phát hiện ý định thương mại, và cung cấp quảng cáo. Họ Dừng từ có ý nghĩa 8 bằng sáng chế là được phát minh chung với Steven Baker và được ghi chép dưới phần Steven Baker để tránh nội dung trùng lặp.
• Prabhakar Raghavan — Google Search Patents (16 bằng sáng chế) — 16 bằng sáng chế tìm kiếm/IR của Prabhakar Raghavan, người đứng đầu Google Search 2020-2024 (trước đó là Phó Chủ tịch Yahoo và nhà khoa học nghiên cứu IBM Almaden), bao gồm PageRank được cá nhân hóa, phát hiện cộng đồng web, xếp hạng thích ứng, hợp nhất kết quả nhiều công cụ, phân loại theo thứ bậc, phân nhóm không gian phụ, lọc thông tin, điều hướng tùy chỉnh, bề mặt nội dung do người dùng tạo, tín hiệu chất lượng vị trí từ các mẫu du lịch, và phân tích siêu dữ liệu thời gian. Khoảng thời gian từ nghiên cứu IBM, Yahoo, và Google của ông.
• Nitin Gupta — Google Search Patents (32 bằng sáng chế) — 32 bằng sáng chế tìm kiếm/SEO của Nitin Gupta (kỹ sư Chất lượng Tìm kiếm Google) bao gồm các gợi ý truy vấn và mẫu, xếp hạng lại và cá nhân hóa, mạng thần kinh tạo ra câu trả lời, tạo kiến thức nội dung, bằng sáng chế truy xuất tìm kiếm tạo sinh mới nhất năm 2026 cho thời đại AI Overviews, và một bằng sáng chế SEO trực tiếp về tên miền và trang web. Năm bằng sáng chế cuối cùng là được phát minh chung với Steven Baker và được ghi chép trong phần của ông để tránh nội dung trùng lặp.
• Navneet Panda — Google Search Patents (15 bằng sáng chế) — 15 bằng sáng chế chất lượng tìm kiếm của Navneet Panda, kỹ sư Google có công việc chất lượng nội dung trở thành cơ sở cho bản cập nhật thuật toán Panda (2011). Bao gồm tính điểm chất lượng trang web, dự đoán chất lượng trang web trước khi dữ liệu hành vi tích lũy, xếp hạng kết quả tìm kiếm bởi tín hiệu mức độ liên quan và chất lượng trang web kết hợp, hiệu suất khoảng thời gian trang web, truy vấn có ý nghĩa cục bộ, sửa đổi truy vấn, và học khái niệm hình ảnh.
• Anand Shukla — Google Search Patents (16 bằng sáng chế) — 16 bằng sáng chế tìm kiếm/IR của Anand Shukla, kỹ sư Chất lượng Tìm kiếm Google, bao gồm bằng sáng chế "Tìm kiếm với cuộc trò chuyện không trạng thái" năm 2024 tiên tiến cắt ngang tìm kiếm cổ điển sang tìm kiếm hội thoại dựa trên LLM. Cũng bao gồm bề mặt bài viết sâu, so khớp mẫu truy vấn, ánh xạ chủ đề truy vấn, curation kênh nội dung, và họ tìm kiếm nâng cao. Ba bằng sáng chế cuối cùng là được phát minh chung với Steven Baker về công việc embeddings nguồn cấp được cá nhân hóa và được ghi chép trong phần của ông.
• Krishna Bharat, Google Search Patents (48 bằng sáng chế) — 48 bằng sáng chế công cụ tìm kiếm của Krishna Bharat, nhà phát minh sáng lập của Google News và người sáng tạo ra thuật toán Hilltop. Bao gồm thuật toán phân tích liên kết Hilltop, viết lại truy vấn với phát hiện thực thể, các đơn vị ngữ nghĩa trong truy vấn, tăng cường truy vấn và tìm kiếm, tính xếp hạng tài liệu bằng thống kê sử dụng, lựa chọn hình ảnh cho tìm kiếm tin tức, xếp hạng ý kiến biên tập, ước tính độ bao phủ của công cụ tìm kiếm, đánh dấu trang dành cho từng truy vấn, và kết xuất quảng cáo nhận biết thực thể. Khoảng từ 2001 đến 2024.
• Srinivasan Venkatachary, Google Search Patents (25 bằng sáng chế) — 26 bằng sáng chế kỹ sư tìm kiếm của Srinivasan Venkatachary, đồng phát minh trên họ bằng sáng chế Tóm tắt tạo sinh cho kết quả tìm kiếm cung cấp năng lượng cho AI Overviews và Search Generative Experience. Cũng bao gồm các nguồn cấp tin nâng cao dựa trên lợi ích của người dùng, tính điểm ứng cử viên trả lời, điều chỉnh tính điểm bối cảnh cho các đoạn trả lời, xác định truy vấn câu hỏi ngầm, tìm kiếm giọng nói hội thoại dựa trên từ khóa, tạo truy vấn qua tương tự cấu trúc tài liệu, xác định tài nguyên từ nội dung hữu cơ và có cấu trúc, curation kênh nội dung, và bộ phân loại emoji. Khoảng từ 2013 đến 2025.
• Jeromy William Henry, Google Search Patents (25 bằng sáng chế) — 25 bằng sáng chế công cụ tìm kiếm của Jeromy William Henry bao gồm Bảng điều khiển kiến thức (thẻ thực thể cạnh kết quả tìm kiếm), Trang thông tin thực thể có cấu trúc (bề mặt chi tiết thực thể độc lập), Trang thông tin thực thể được cá nhân hóa, kích thước hình ảnh SERP, và trình bày liên kết phụ tìm kiếm âm nhạc. Mỗi bằng sáng chế trong kho lưu trữ của ông có liên quan đến SEO. Khoảng từ 2013 đến 2025.
• Ramanathan V. Guha, Google Search Patents (33 bằng sáng chế) — 33 bằng sáng chế công cụ tìm kiếm của Ramanathan V. Guha, đồng sáng lập của Schema.org và nhà phát minh hàng đầu về Google Custom Search Engine. Bao gồm họ Programmable Search Engine, xếp hạng tìm kiếm dựa trên niềm tin, phát hiện spam cho các bối cảnh có thể lập trình, truyền tín hiệu xã hội, phân loại kết quả tìm kiếm, tóm tắt web tùy chỉnh, lọc theo chú thích của người dùng, tìm kiếm bối cảnh bằng các giao điểm truy vấn, xác định truy vấn, và họ giao diện tạo tác vụ. Khoảng từ 2003 đến 2019.
• Marc Najork, Google Search Patents (25 bằng sáng chế) — 25 bằng sáng chế tìm kiếm/IR của Marc Najork khoảng thời gian từ kỷ nguyên Microsoft Research (kiến trúc trình craw web, xếp hạng chống spam, đánh giá nội dung, cơ sở dữ liệu siêu liên kết) và kỷ nguyên Google của ông (trích xuất thông tin biểu mẫu, tương tự ngữ nghĩa do ML điều khiển, học tích cực, nhật ký hoạt động tài liệu cho đào tạo mức độ liên quan). Bao gồm bằng sáng chế danh sách chéo cơ bản với bộ sưu tập 65 Bằng sáng chế Google về nhật ký hoạt động tài liệu. Khoảng từ 2005 đến 2025.
• Jeffrey Dean, Google Search Patents (78 bằng sáng chế) — 78 bằng sáng chế tìm kiếm và cơ sở hạ tầng IR của Jeffrey Dean, Cấp cao cao nhất của Google và Nhà khoa học chính, đồng sáng lập của Google Brain, và kiến trúc sư của MapReduce và BigTable. Bao gồm họ Document Scoring cơ bản (Query Analysis, Content Update, Inception Date, Link-Based Criteria), Patent dữ liệu lịch sử (danh sách chéo với 65gp), Anchor Tag Indexing, Content Snippets via Tokenspace, phát hiện gần trùng lặp và máy chủ đình chỉ, phòng chống độ trôi chủ đề, mô hình ML phân tán, và cơ sở hạ tầng MapReduce và BigTable cơ bản giúp tìm kiếm web quy mô có thể. Khoảng từ 2000 đến 2025.
• Paul Haahr, Google Search Patents (63 bằng sáng chế) — 63 bằng sáng chế tìm kiếm và xếp hạng Google của Paul Haahr, kỹ sư xếp hạng tìm kiếm có kinh nghiệm dài. Bao gồm các bằng sáng chế chất lượng liên kết chính (Bharat/Singhal/Haahr "Xác định chất lượng của tài liệu được liên kết"), xếp hạng phân loại tài liệu, tín hiệu độc lập nút chống PBN, bằng sáng chế quá trình chất lượng rumored (danh sách chéo với 65gp pat-48), đường ống xử lý truy vấn nhiều giai đoạn, khuôn khổ đánh giá chức năng tính điểm tìm kiếm web (nền tảng tài liệu cho bài nói chuyện SMX của ông), trang được ưa thích, bối cảnh tham khảo, văn bản mô tả tổng hợp cho hình ảnh, và họ tinh chỉnh truy vấn và phát hiện dừng từ nhiều gia đình. Đồng tác giả với Singhal, Dean, Bharat, Cutts, Henzinger, Simon Tong, và Acharya. Khoảng từ 2008 đến 2019.
• Hyung-Jin Kim, Google Search Patents (23 bằng sáng chế) — 23 bằng sáng chế tìm kiếm và xếp hạng Google của Hyung-Jin Kim. Nhà phát minh hàng đầu trên họ Navboost / phản hồi ngầm (US 8.661.029 + 5 tiếp tục thông qua US 11.816.114 IP năm 2023), hệ thống bề mặt tại phiên tòa phản độc quyền DOJ Google năm 2024. Cũng bao gồm mô hình độ thiên vị trình bày, điều chỉnh tính điểm thời gian, xếp hạng thay đổi tài liệu, nhóm cohort người dùng, vay truy vấn tương tự, truy vấn biến thể tổng quát hóa, truyền phân loại truy vấn, và bằng sáng chế Quá trình chất lượng danh sách chéo (với Paul Haahr, 65gp pat-48). Đồng tác giả với Simon Tong, Noam Shazeer, Michelangelo Diligenti, Adrian Corduneanu, Henele Adams, Andrei Lopatenko. Nộp 2006-2021.
• Pandu Nayak, Google Search Patents (13 bằng sáng chế) — 13 bằng sáng chế tìm kiếm Google của P. Pandurang Nayak, Nhà khoa học Chủ tịch Google về Tìm kiếm. Kỷ lục bằng sáng chế bao gồm ngăn xếp sửa đổi truy vấn và hiểu biết từ 2003-2015: tích hợp nhiều mô hình sửa đổi truy vấn, sửa đổi có tính điểm tự tin, vay truy vấn xếp hạng cao được biết đến, thay thế bối cảnh khái niệm, từ đồng nghĩa bị hạn chế cụm từ, xác định từ đồng nghĩa do nhấp chuột, mở rộng từ viết tắt. Đồng tác giả với David R. Bailey, Ben Gomes, Trystan Upstill, Kedar Dhamdhere, Thomas Strohmann. Các đóng góp thần kinh của ông (RankBrain, BERT, MUM, lời khai DOJ) được có chủ ý không được paten và sống trong bài đăng trên blog và bản ghi phiên tòa.
• Daniel Egnor, Google Local Search Patents (20 bằng sáng chế) — 20 bằng sáng chế tìm kiếm địa phương và mức độ liên quan địa lý của Daniel Egnor, kiến trúc sư của lớp xếp hạng Google Maps / Local Pack. Nhà phát minh hàng đầu trên US 8.046.371 "Tính điểm kết quả tìm kiếm cục bộ dựa trên sự nổi bật về vị trí" , bằng sáng chế xác định yếu tố "Prominence" trong tài liệu Xếp hạng Tìm kiếm Cục bộ chính thức của Google. Cũng bao gồm xếp hạng nhạy cảm vị trí (yếu tố Tính liên quan, với Amit Singhal), lập chỉ mục mức độ liên quan địa lý, giải quyết tham chiếu địa lý không rõ ràng, xác định tài liệu có thẩm quyền, phân loại danh sách kinh doanh, và xử lý tìm kiếm GIS không rõ ràng (với John Hanke người sáng lập Keyhole). Đồng tác giả với Singhal, Haahr, Greenfield, John Hanke. Nộp 2003-2019.
• Yossi Matias, Google SERP Features & Assistant Patents (47 bằng sáng chế) — 47 bằng sáng chế Google của Yossi Matias, Phó Chủ tịch Google về Kỹ thuật. Nhà phát minh hàng đầu trên bằng sáng chế People-Also-Ask cơ bản US 9.213.748 "Tạo các câu hỏi liên quan cho các truy vấn tìm kiếm". Xây dựng Autocomplete (2004), Trends, OneBoxes thời tiết/thể thao/từ điển. Bao gồm họ People-Also-Ask, giàn xây dựng thực thể Bảng điều khiển kiến thức (nhóm thực thể liên quan, xác định thực thể trung tâm, ước tính dữ kiện, thuộc tính thực thể văn bản, tìm kiếm trích dẫn thực thể), lớp Trends/analytics (phân tích cạnh tranh chiến dịch, xếp hạng trực quan hóa đồ họa), cơ sở hạ tầng Duplex tự động gọi, chatbot được cá nhân hóa và bằng sáng chế dẫn bao hàm LLM đó cung cấp năng lượng cho trợ lý Google thế hệ 2024-2026 tạo sinh, và SERP bối cảnh/bên thứ ba tính năng. Đồng tác giả với Yaniv Leviathan (Duplex), Gal Chechik, Ziv Bar-Yossef, Eyal Segalis, Avinatan Hassidim. Nộp 2013-2026.
• Andrei Broder, Cross-Vendor Search Patents (25 bằng sáng chế) — 25 bằng sáng chế công cụ tìm kiếm và IR của Andrei Broder, nhà phát minh xuyên nhà cung cấp đã hình thành phát hiện gần trùng lặp tại DEC/AltaVista, đồng phát minh CAPTCHA cơ bản tại Compaq, xây dựng hệ thống xếp hạng trang AltaVista, tác giả tín hiệu suy yếu trang web tại IBM, và hình thành cơ sở hạ tầng quảng cáo so khớp/SERP-features/CAPTCHA-evolution tại Yahoo. Nhà phát minh hàng đầu trên bằng sáng chế MinHash/shingling cơ bản (US 6.349.296), kỹ thuật xác suất va chạm dấu vân tay (US 5.974.481), bằng sáng chế shingling tương tự tài liệu cơ bản (US 6.230.155), và bằng sáng chế CAPTCHA cơ bản (US 6.195.698). Khoảng từ 1999 đến 2024.
• Monika Henzinger, Google Search Patents (50 bằng sáng chế) — 98 bằng sáng chế tìm kiếm và IR của Monika Henzinger, Giám đốc Nghiên cứu đầu tiên tại Google. Đồng phát minh trên bằng sáng chế phát hiện trang gần trùng lặp cơ bản (US 6.138.113, với Dean) và một bộ sưu tập rộng lớn của họ Document-scoring (Query Analysis, Content Update, Inception Date, Link-Based Criteria, Historical Data , tất cả đều được danh sách chéo với các bài viết chính của Dean). Đóng góp độc lập: họ phát hiện tập tin trùng lặp với William Pugh, máy chủ kết nối AltaVista, bằng sáng chế xếp hạng kết nối và nội dung, xác định tính mới của tài liệu, xếp hạng khoảng cách ngữ nghĩa, xếp hạng thông tin ngữ nghĩa truy vấn, IR ngôn ngữ chéo văn bản neo, tìm kiếm trong bối cảnh, trợ lý trình duyệt siêu văn bản, và truy xuất tài liệu do thống kê sử dụng điều khiển. Khoảng từ 1997 đến 2017.
• Trystan Upstill, Google Site-Quality & HCU-Era Search Patents (28 bằng sáng chế) — 28 bằng sáng chế tìm kiếm và xếp hạng Google của Trystan Upstill. Đồng phát minh trên bằng sáng chế Panda (US 9.135.307 = 65gp pat-39) và nhà phát minh hàng đầu trên US App 2019/0155948 "Xếp hạng lại tài nguyên dựa trên chất lượng danh mục" , bằng sáng chế các neo dòng HCU-era mà sau đó chất lượng trang web. Cũng bao gồm khám phá kết quả có thẩm quyền, xếp hạng kết quả tìm kiếm và tính điểm lại, phát hiện miền liên kết, trích xuất thuộc tính tài nguyên từ địa chỉ trang web, xác định tìm kiếm cục bộ và POI, từ đồng nghĩa và viết lại truy vấn, tài nguyên ý định điều hướng, xác định ngôn ngữ từ ngữ cảnh liên kết, và bằng sáng chế thành phần UI thời đại LLM gần đây. Nộp 2012-2026.
• Susan Dumais, Microsoft IR & Search Patents (18 bằng sáng chế) — 61 bằng sáng chế tìm kiếm và IR của Susan Dumais, Bạn kỹ thuật Microsoft và người nhận giải thưởng Gerard Salton. Đồng phát minh trên bằng sáng chế Latent Semantic Indexing cơ bản (US 4.839.853, Bellcore 1989) , tổ tiên khái niệm của mỗi hệ thống truy xuất khoảng cách dày đặc. Tại Microsoft Research, công việc của cô bao gồm đo lường sự hài lòng SERP tự động, mô hình nhấp phán xét ưu tiên, xếp hạng dựa trên bối cảnh hoạt động, xếp hạng nhận biết thời gian với động lực thời gian, tìm kiếm và kết quả được cá nhân hóa, xác định chuyên môn miền trên mỗi người dùng, trang web thay đổi × xếp hạng tính mới lại truy cập, sửa đổi truy vấn ngầm liên quan thiết bị, xếp hạng cơ quan. Khoảng từ 1989 đến 2026. Đồng tác giả bao gồm Jaime Teevan, Eric Horvitz, Ryen White, Adam Fourney, Joshua Goodman, Eric Brill.
• Christopher Burges, Microsoft Research Learning-to-Rank Patents (16 bằng sáng chế) — ~30 phát minh độc đáo của Hoa Kỳ (bộ sưu tập WIPO 84 mục) của Christopher J. C. Burges, nhà khoa học Microsoft Research đã phát minh ra dòng học tập xếp hạng RankNet/LambdaRank/LambdaMART. RankNet (US 7.689.615) là người xếp hạng thần kinh từng cặp; LambdaRank (US 7.617.164) là phần mở rộng chi phí tùy ý tối ưu hóa NDCG; LambdaMART (US 12/032,697) là bộ kết hợp tăng cường gradient đã giành chiến thắng Yahoo LTR Challenge 2010. Cũng bao gồm thích ứng biến thể hành vi, phân tích biểu đồ trang web đa, làm mịn spam liên kết, lợi nhuận cây biên độ, ước tính xác suất k-NN. Khoảng từ 2001 đến 2019. Đồng tác giả bao gồm Robert Ragno (LambdaRank), Irina Matveeva, Timo Burkard.
• Eric Brill, Microsoft Research Search & NLP Patents (20 bằng sáng chế) — 20 bằng sáng chế Microsoft Research của Eric Brill, nhà khoa học NLP và tìm kiếm được biết đến vì các bằng sáng chế kiểm tra chính tả truy vấn và mô hình kênh nhiễu. Nhà phát minh hàng đầu trên US 7.254.774 "Hệ thống và phương pháp kiểm tra chính tả được cải thiện" , bằng sáng chế kiểm tra chính tả kênh nhiễu cơ bản. Cũng bao gồm chuyển đổi sửa lỗi chuỗi đến chuỗi (US 7.290.209 / 7.366.983), tài khoản biến thể hành vi trong tìm kiếm web (US 7.743.047), xếp hạng dữ liệu phổ biến, khai thác hành vi người dùng tìm kiếm web, tìm kiếm thiên vị trang, thành phần Q&A dựa trên lợi ích chi phí, và khám phá ý định người dùng. Nộp 2005-2010.
• Tomas Mikolov, Google word2vec Patents (2 bằng sáng chế) — 2 bằng sáng chế cơ bản Google của Tomas Mikolov bao gồm word2vec , mô hình học tập nhúng từ liên tục xác định kỷ nguyên nhúng. Đồng phát minh với Kai Chen, Greg Corrado, và Jeff Dean. US 9.037.464 là cấp gốc; US 9.740.680 là tiếp tục với phạm vi yêu cầu rộng hơn. Cả hai bằng sáng chế chia sẻ cùng một công khai (ứng dụng 13/841,640) và cùng nhau tạo thành toàn bộ họ bằng sáng chế word2vec. Danh sách chéo khái niệm với phần Dean (Dean là đồng phát minh và làm việc trên cơ sở hạ tầng Brain/distributed-models rộng hơn).
• Noam Shazeer, Google Transformer, MoE & Search Patents (18 bằng sáng chế) — ~46 bằng sáng chế Google được bắt (danh mục đầy đủ được ước tính ở 120-150) bởi Noam Shazeer. Đồng phát minh trên kiến trúc chú ý Transformer cơ bản (US 10.452.978 với Vaswani, Polosukhin, Uszkoreit, Jones, Gomez, Kaiser, Parmar), cách tiếp cận Mixture-of-Experts tải Sparsely (US 11.769.055 với Dean, Hinton, Le, Mirhoseini), Switch Transformer (US 12.093.829), và họ xếp hạng phản hồi ngầm Navboost (US 8.661.029 với Kim/Tong/Diligenti , danh sách chéo). Cũng bao gồm tạo phản hồi trợ lý LLM, tính toán tensor phân tán (GSPMD/Pathways), và cơ sở hạ tầng xếp hạng ML quy mô lớn trước Transformer năm 2008-2015. Khoảng từ 2008 đến 2025.
• Ashish Vaswani, Google Transformer, Attention-Based Vision & Fast Decoding Patents (6 bằng sáng chế) — 4 bài viết chính được bắt mới cộng với 2 danh sách chéo từ phần Noam Shazeer. Tác giả chính của bằng sáng chế Transformer cơ bản (US 10.452.978, danh sách chéo). Nhà phát minh thứ nhất trên bằng sáng chế tự chú ý cục bộ thị giác máy tính (US 20210390410, HaloNet) quy mô chú ý cho các dãy dài và hình ảnh. Đồng phát minh trên MultiModel (US 20200089755 , kiến trúc đa tác vụ đa phương thức thống nhất là tổ tiên cấu trúc của MUM và Gemini), hệ thống thị giác chỉ chú ý (US 20250292560, dòng ViT), và phương pháp giải mã nhanh có latents rời rạc (EP 3732627) làm cho suy luận LLM khả thi về mặt kinh tế tế với độ trễ quy mô tìm kiếm. Khoảng từ 2017 đến 2025.
• Jakob Uszkoreit, Google Transformer Architect, Universal Transformer & Vision Transformer Patents (6 bằng sáng chế) — 3 bài viết chính mới cộng với 3 danh sách chéo từ các phần Vaswani và Shazeer. Đồng tác giả của "Attention Is All You Need" (US 10.452.978, danh sách chéo). Đồng phát minh trên Universal Transformer (US 10.740.433, Transformer thích ứng độ sâu với Thời gian tính toán thích ứng mỗi token), mô hình NLI Chú ý Phân hủy (EMNLP 2016, chứng minh cơ bản điều khiển trước Transformer mà dự phòng tính so sánh thay thế tái diễn), và Vision Transformer (ViT, ICLR 2021, kiến trúc token hóa bản vá neo tìm kiếm hình ảnh hiện đại và nền tảng đa phương thức). Danh sách chéo bao gồm Transformer gốc, MultiModel (tổ tiên thống nhất đa tác vụ đa phương thức của MUM/Gemini), và Image Transformer. Khoảng từ 2016 đến 2021.
• Simon Tong, Google Click-Driven Ranking, Population Signals & Anti-Spam Patents (9 bằng sáng chế) — 5 bài viết chính mới cộng với 4 danh sách chéo từ các phần Kim, Shazeer, và 65 Google Patents. Tong là đồng phát minh với Marc Pearson và Sergey Brin trên bằng sáng chế xếp hạng truy vấn liên quan (US 7.505.964), với Pearson trên bằng sáng chế xếp hạng thông tin dân số (US 7.454.417), độc lập trên thiên vị quốc gia (US 20040254932), với Bem/Harik/Levenberg/Shazeer trên cơ sở hạ tầng xếp hạng ML quy mô lớn trước Transformer (US 7.222.127), và với Ghemawat/Piscitello/Cutts trên bằng sáng chế xóa tài liệu người dùng (US 8.417.697, tổ tiên cấu trúc của Personal Blocklist và tín hiệu spam đông) Danh sách chéo bao gồm họ Navboost implicit-feedback, bằng sáng chế CTR-as-ranking-factor, bằng sáng chế historical-data, và tiếp tục xếp hạng tập dữ liệu lớn. Khoảng từ 2003 đến 2017+.
• Michelangelo Diligenti, Google Click-Data Quality & Implicit Feedback Patents (5 bằng sáng chế) — 2 bài viết chính mới cộng với 3 danh sách chéo từ các phần Kim và 65 Google Patents. Diligenti là nhà phát minh trên bằng sáng chế Phát hiện nhấp chuột spam (US 8.694.374, phát hiện dị thường độ lệch thuộc tính nguồn cấp tín hiệu xếp hạng) và trên Mô hình nhấp chuột tài khoản ý định người dùng (US 20120143789, cân nặng nhấp chuột có điều kiện ý định). Đồng phát minh Navboost / presentation-bias / CTR-as-ranking-factor của ông (danh sách chéo) neo ông trong họ xếp hạng phản hồi ngầm. Danh mục bao gồm chất lượng dữ liệu nhấp chuột, lớp giữa hành vi người dùng thô và tín hiệu xếp hạng mà nó cấp. Khoảng từ 2007 đến 2019+.
• Jaime Teevan, Microsoft Personalized Search & Search-Task Patents (5 bằng sáng chế) — 4 bài viết chính mới cộng với 1 danh sách chéo từ phần Dumais. Teevan là đồng phát minh với Dumais và Horvitz trên bằng sáng chế tìm kiếm được cá nhân hóa cơ bản (US 7.693.818) xếp hạng lại các ứng cử viên toàn cầu so với vectơ hồ sơ mỗi người dùng. Nhà phát minh trên xác định tác vụ tìm kiếm (US 8.326.824, nhóm truy vấn phiên chéo thành tác vụ đa bước), phân loại tìm lại vs tìm kiếm mới (US 8.756.219, ổn định kết quả nhấp chuột trước đó cho lần truy cập lại), và phân tách tác vụ vi mô (US 10.062.103, phân tách các mục tiêu cấp cao thành các bước vi mô có thể tiếp tục). Danh sách chéo bao gồm điều hướng được cá nhân hóa (chính tắc Dumais). Khoảng từ 2003 đến 2018+.
• Eric Horvitz, Microsoft Decision-Theoretic Search & Attention-Aware Information Delivery Patents (3 bằng sáng chế) — 3 bài viết chính mới. Horvitz là nhà phát minh trên xếp hạng lý thuyết quyết định dưới sự không chắc chắn (US 7.124.129, mức độ liên quan như một phân phối xác suất với lựa chọn tiện ích dự kiến), lý luận chi phí-lợi ích trong trình bày kết quả tìm kiếm (US 7.194.464, cơ sở cơ học cho các đoạn trích nổi bật và AI Overviews), và cung cấp thông tin chủ động nhận biết chú ý (US 6.934.917, dòng bề mặt không truy vấn đằng sau Khám phá, Bây giờ thẻ, và trợ lý AI). Khoảng từ 2002 đến 2006+.
• Ryen White, Microsoft Search Behavior & Search-Trails Patents (3 bằng sáng chế) — 3 bài viết chính mới. White là nhà phát minh trên đường mòn tìm kiếm / khai thác đường dẫn thành công (US 7.904.440, xếp hạng đích kết thúc các đường dẫn chéo người dùng thành công), phân loại pha truy vấn tìm hiểu-versus-lookup (US 8.041.711, phục vụ xếp hạng điều chỉnh giai đoạn và định dạng kết quả), và tiếp tục tác vụ phiên chéo (US 9.116.996, may mắc truy vấn trên các phiên và thiết bị thành một tác vụ tiếp tục). Khoảng từ 2007 đến 2015+.
• Azalia Mirhoseini, Google ML Infrastructure & Chip-Design Patents (3 bằng sáng chế) — 2 bài viết chính mới cộng với 1 danh sách chéo từ phần Shazeer. Mirhoseini là đồng phát minh trên bằng sáng chế vị trí bản dạ RL (US 11.475.278, báo cáo Nature 2021 mà thiết kế bản dạ TPU trong vài giờ thay vì tuần) và bằng sáng chế vị trí thiết bị cho ML phân tán (arXiv 1706.04972, bộ điều khiển RL học cách chia tách các mô hình lớn trên GPU/TPU để giảm thiểu thời gian đào tạo). Cả hai đều phản hồi lại vào kinh tế chi phí tính toán giúp Google phục vụ xếp hạng Transformer ở quy mô tìm kiếm. Danh sách chéo bao gồm bằng sáng chế MoE cơ bản (chính tắc Shazeer). Khoảng từ 2017 đến 2021+.
• Arnold Overwijk, Microsoft Site Topical Authority Patent (1 bằng sáng chế) — 1 bài viết chính. Overwijk là đồng phát minh với Li Xiong, Chuan Hu, và Junaid Ahmed trên bằng sáng chế Site Topical Authority (US 20210004416, công thức A(s,t) = SR(s) * C(s) * T(s,t)^2 mà rõ ràng định lượng mỗi cơ sở dữ liệu mỗi chủ đề uy tín bằng cách kết hợp xếp hạng trang web toàn cầu, tín hiệu nhấp chuột, và chia sẻ trang chia cho mỗi chủ đề bình phương). Công thức toán học chính xác nhất của uy tín chủ đề trong sáng chế hiện đại. Các cặp khái niệm với Procopio (uy tín mỗi tác giả mỗi chủ đề) và Agent Rank (danh tiếng cấp tác giả, 65gp pat-47).
• Michael Procopio, Google Per-Author Per-Topic Authority Patent (1 bằng sáng chế) — 1 bài viết chính. Procopio được đặt tên là nhà phát minh trên bằng sáng chế Topic Authority (US 8.458.196). Hệ thống tính toán chữ ký uy tín mỗi (tác giả, chủ đề): cho mỗi tài liệu d tác giả đóng góp, tổng (% tác giả * topic_weight); tổng hợp trên tất cả các tài liệu của tác giả để tạo ra điểm chuyên môn mỗi tác giả mỗi chủ đề. Định lượng toán học "người này là một chuyên gia về chủ đề này," có cấu trúc cơ sở cho tín hiệu E-A-T Expertise ở cấp tác giả. Kết nối để Agent Rank (US 7.565.358, 65gp pat-47, bằng sáng chế danh tiếng tác giả Google trước đó) và Overwijk site-topical-authority (US 20210004416) để tạo thành mô hình uy tín phân tầng.
• Ori Allon, Google Orion Query-Refinement Patent (1 bằng sáng chế) — 1 bài viết chính. Allon là đồng phát minh trên bằng sáng chế tinh chỉnh truy vấn Orion (US 8.392.443) với Ugo Di Girolamo, Tomer Shmiel, Alexandre Petcherski, và Tzvika Hartman. Thuật toán Orion bắt nguồn như công việc luận án tiến sĩ của Allon tại UNSW và được Google mua lại vào năm 2006. Bằng sáng chế tạo tinh chỉnh truy vấn được khai thác từ kho lưu trữ: cho một truy vấn, trích xuất các mẫu cụm từ từ các tài liệu thỏa mãn truy vấn để tạo ra các ứng cử viên tinh chỉnh xếp hạng. Cơ chế đằng sau "Tìm kiếm liên quan đến," đoạn trích SERP mở rộng, và dòng của People-Also-Ask. Được cấp 2013.
• Corin Anderson, Google Reasonable Surfer (Foundational) Patent (2 bằng sáng chế) — 1 bài viết chính mới cộng với danh sách chéo ngầm đến bộ sưu tập 65 Google Patents. Anderson là FIRST nhà phát minh trên bằng sáng chế Reasonable Surfer cơ bản (US 7.716.225, với Jeff Dean và Alexis Battle), cấp 2004 nộp giới thiệu xác suất nhấp chuột liên kết không đồng nhất được ưu tiên theo các tính năng mỗi liên kết (văn bản neo, kích thước font, vị trí, bối cảnh xung quanh). Các tiếp tục (US 8.117.209 trong 65gp pat-45, US 9.305.099 trong năm 2016) mở rộng cùng một mô hình. Cơ chế cho PageRank khác biệt trôi qua các liên kết trên cùng một trang.
• Ashok Popat, Google OCR & Image-Text Indexing Patents (1 bằng sáng chế) — 1 bài viết chính bao gồm nghiên cứu OCR lấy cảm hứng từ bản dịch của Popat (Popat et al., 2009 trở đi; họ bằng sáng chế US 8.675.012 để hiển thị lựa chọn văn bản OCR'd). Phương pháp thay đổi khung OCR như dịch máy thống kê: tính năng hình ảnh như kênh nguồn, chuỗi ký tự như mục tiêu, giải mã chung với mô hình kênh và ngôn ngữ tối đa hóa chất lượng chuyeraph. Công cụ Google Books lập chỉ mục, Lens chụp văn bản, Drive PDF tìm kiếm, và đường dẫn lập chỉ mục văn bản liên kết hình ảnh đằng sau mọi hình ảnh và infographic trên web.

Tại sao tổ chức này

Luật sư bằng sáng chế nhóm sở hữu trí tuệ theo người phát minh và người nhận, không phải theo chủ đề. Nhóm theo người phát minh khôi phục cung cấp tường thuật: thập kỷ công việc xếp hạng của Amit Singhal, xử lý truy vấn thời đại BERT của Pandu Nayak, dòng thế hệ tin tức của Krishna Bharat. Mỗi dòng đọc như một tiểu sử nghiên cứu được viết bằng ngôn ngữ yêu cầu.